Уже осенью 1913 года Котовский возвращается в Бессарабию. К концу года он собрал вооруженную банду в семь человек, а в 1915 году в его вооруженном отряде «котовцев» было уже 16 человек. Сам атаман скрывался по подложным документам на имя Гушана или на имя Рудковского. Жил Котовский тогда в Кишиневе на «малине» вора Кициса на Титовской улице или в дешевом трактире «Лондон», который сами бандиты именовали не иначе как «трущоба».

Котовский тайно посещает малую родину – Ганчешты, где еще проживают его сестры – Софья и Елена. В Кишиневском театре Котовского узнал бывший директор Кокорозенского сельскохозяйственного училища. «В антракте, – вспоминал И. Киркоров, – ко мне подошел господин в цилиндре с окладистой черной бородой. «Иосиф Григорьевич, – говорит мне тихо, – я ваш ученик Гриша». Я обомлел. Сколько смелости и изобретательности».

Некоторое время после возвращения Котовский работал кочегаром на кирпично-черепичном заводе и агрономом, но трудовая жизнь была ему в тягость. Его манили опасности и «приключения»…

В банде «котовцев» выделяются рецидивисты: Николай Радышевский, Шефер, Василий Кириллов (Байстрюк), Иосиф Руф, Арон Кицис Элик Шофер, Иван Гамарник, Мордко Эрго, Загари, Дурунчан; беглые солдаты Михаил Афанасьев и Федот Перекупко. В «одесском отделении банды» были рецидивисты: братья Самуил и Иосиф Гефтман, братья Наум и Мойше Авербух, Михаил Ивченко, Исаак Ротгейзер.

Советские историки к этому списку добавляют каторжанина Игнатия Пушкарева и сына матроса с мятежного крейсера «Очаков» Федора Стригунова.

Первые налеты Котовский совершил на старого обидчика, помещика Назарова из Ганчешт (нынешнего хозяина замка и земли умершего Манук-Бея), Бандерское казначейство и кассу винокуренного завода. Бросается в глаза особая неприязнь к Назарову. Очевидно, Манук-Бей что-то обещал семье Котовских, но новый хозяин завода в Ганчештах оказался не таким покладистым, как его предшественник.

15 апреля 1914 года «Бессарабская жизнь» писала о том, как ганчештский становой пристав, узнав, что в Ганчештском лесу скрывается Котовский, в ночь на 14 апреля провел облаву в лесу. В облаве кроме всего состава стражников участвовало большое количество собранных из соседних сел и деревень крестьян. Она продолжалась несколько часов, но задержать ни одного из «котовцев» не удалось.

В начале августа 1914 года Российская империя вступила в Первую мировую войну, мужское население мобилизовывалось, границы закрывались. В газетах тогда появился приказ главнокомандующего Юго-Западным фронтом генерал-адъютанта Иванова о введении в Бессарабии и ряде других губерний военного положения. Это означало усиление полицейского режима с неограниченной властью главнокомандующего, введение военно-полевых судов и ужесточение наказаний за преступления. За бандитские вооруженные нападения Котовского и его подельников ждала уже не каторга, а виселица или расстрел.

Для своей легализации Котовский приобрел «белый билет», освобождающий его от армии. Он устроился в крупное поместье помощником машиниста молотилки. В свободное от работы время Котовский готовил очередной налет. Позже он нанимается на поденную работу к землевладельцу Краусту. Но изнурительная работа изматывает силы и лишает возможности руководить бандой, и Котовский бросает ее. В 1915-м он полностью переходит на нелегальное положение.

В 1942 году румынским властям в оккупированной Одессе случайно попался на глаза протокол полицейского допроса помощником начальника уголовного сыска Одессы Дон-Донцовым участника банды Котовского – Михаила Ивченко (документ датирован 8 февраля 1916 года). Протокол проливает свет на неизвестные страницы биографии героя революции.