Рано утром 6 июля, ещё в темноте, на Леонтьевском кладбище собралось 106 человек. Пути назад уже не было. Довольно быстро мятежники овладели артиллерийским складом и получили оружие. Вскоре к ним присоединились бронедивизион и отряд конной милиции. Все эти силы по заранее разработанному плану двинулись в центр Ярославля. По пути ими был захвачен и разоружён 2-й Советский полк, железнодорожный мост через Волгу, почти всё Заволжье (Тверицы, село Яковлевское, станция Урочь). На станции Урочь был сооружён бронепоезд, с помощью которого мятежники в последующие дни удерживали железнодорожный мост. Сам Перхуров вместе со своим штабом первоначально разместился в бывшей гимназии Корсунской (ныне это здание Главпочтамта на Богоявленской площади).

В течение ночи и следующего дня мятежникам удалось арестовать многих руководителей советских учреждений. Аресты производились по заранее составленным спискам с указанием адресов. Всего было арестовано около 200 человек. Некоторые из них во время ареста были убиты. Среди них С.М.Нахимсон, Д.С.Закгейм, П.А.Зелинский, А.С.Шмидт, М.М.Лютов и другие.

В качестве «Главнокомандующего Добровольческой армией Северного фронта» Перхуров издал целый ряд приказов, в которых объявил о ликвидации советских органов власти, о создании «Гражданского управления Ярославля». Согласно приказам должны были быть воссозданы земства, городская управа, полиция. Примечательно, что Перхуров, монархист по убеждениям, стремился воссоздать ту структуру органов власти, которая действовала ещё до Февральской революции.

В одном из своих первых приказов Перхуров объявил как о призыве добровольцев в свои ряды, так и об обязательной мобилизации мужского населения. Историкам до сих пор трудно ответить на вопрос, насколько же велика была численность перхуровских войск. Сам Перхуров впоследствии признавал, что через несколько дней после начала мятежа у него на позициях находилось не более 600 человек. Советские историки называли цифру в 6 тыс. человек. В архивных документах есть сведения и о 1,5 тыс. человек, и о 4 тыс. человек. Сам Перхуров отмечал большие потери своих войск, жаловался, что добровольцы, получив оружие, подчас исчезали вместе с этим оружием.

Очевидно, что для губернского города с населением в 130 тыс. человек эти цифры не могут говорить о массовости антибольшевистского движения. Чтобы сохранить стабильным костяк своих сил, Перхуров начал платить находившимся на позициях жалованье. Попавшие к красным пленные сообщали, что в первые дни боёв плата составляла 300 руб. в день, а впоследствии была доведена до 900 руб. Восставшие могли позволить себе такие затраты: из сейфов Государственного банка они взяли в общей сложности свыше 4,5 млн руб.

Сначала казалось, что все события развиваются по заранее намеченному плану, никаких сбоев не было до тех пор, пока против мятежников не выступил 1-й Советский полк. Расположенный в здании бывшего кадетского корпуса, не пожелавший подчиниться Перхурову, полк занял линию обороны от Туговой горы почти до Большой мануфактуры, где фронт держали рабочие отряды. Станция Всполье и территория артиллерийских складов также оказалась в руках красных войск. Таким образом, с юга и юго-запада мятежники были охвачены полукольцом советских войск. Правда, численность этих войск была невелика. Нужны были подкрепления. А это зависело уже не столько от Ярославля, сколько от тех мер, которые должны были предпринять центральные власти.

Восстание в Ярославле началось 6 июля, то есть в тот же день, что и вооружённое выступление левых эсеров в Москве. Занятые исключительно событиями в столице, большевистские лидеры, видимо, просто не в состоянии были сразу оценить степень опасности ярославского восстания. Некоторые из них поначалу просто не поверили полученной по телеграфу информации из Ярославля. Так, Н.И.Подвойский и М.С.Кедров назвали эту информацию провокацией и даже намеревались отдать приказ об аресте тех лиц, кто эти сведения сообщили. Подобной же была реакция председателя РеввоенсоветаЛ.Д.Троцкого. На телеграмме из Ярославля он написал: «Распространяющих ложные слухи – расстреливать». 9 июля Троцкий заявил делегатам V Всероссийского съезда Советов, что мятеж в Ярославле опасности не представляет, город окружён советскими войсками, мятеж почти ликвидирован.