Итак, в мае 1862 года Милютин представил Александру II предложения под заглавием «Главные основания предполагаемого устройства военного управления по округам». В основе этого документа лежали следующие положения: уничтожить деление в мирное время на армии и корпуса, высшей тактической единицей считать дивизию; разделить территорию всего государства на несколько военных округов; во главе округа поставить начальника, на которого возложить надзор за действующими войсками и командование местными войсками, а также поручить ему заведование всеми местными военными учреждениями.

Уже летом 1862 года вместо Первой армии были учреждены Варшавский, Киевский и Виленский военные округа, а в конце 1862 года – Одесский округ. В августе 1864 года было утверждено «Положение о военных округах», на основании которого Командующему войсками округа подчинялись все расположенные в округе воинские части и военные учреждения, таким образом он становился единоличным начальником, а не инспектором, как это планировалось раньше. При этом все артиллерийские части в округе подчинялись непосредственно начальнику артиллерии округа. В пограничных округах на Командующего возлагались обязанности генерал-губернатора, и в его лице сосредотачивалась вся военная и гражданская власть.

В 1864 году было создано ещё 6 военных округов: Петербургский, Московский, Финляндский, Рижский, Харьковский и Казанский. В последующие годы были образованы: Кавказский, Туркестанский, Оренбургский, Западно-Сибирский и Восточно-Сибирский военные округа. В результате организации военных округов создалась относительно стройная система местного военного управления. Военные округа обеспечивали быстрое развёртывание армии в случае войны, при их наличии стало возможно приступить к составлению мобилизационного расписания.

Параллельно с этим шла реформа самого военного министерства. По новому штату состав Военного министерства был уменьшен на 327 офицеров и 607 солдат. Значительно сократился и объём переписки. Как положительное можно отметить и тот факт, что военный министр сосредоточил в своих руках все нити военного управления, однако войска не находились в полном его подчинении, так как начальники военных округов зависели непосредственно от царя, который и возглавлял верховное командование вооружёнными силами.

1 (13) января 1874 году был издан «Манифест о введении всеобщей воинской повинности», в соответствии с которым воинская повинность возлагалась на все сословия Российской империи. В тот же день был утвержден «Устав о воинской повинности», в котором защита престола и Отечества объявлялась священной обязанностью всех российских подданных. Согласно Уставу, всё мужское население страны «без различия состояний» подлежало воинской повинности. Тем самым были заложены основания армии современного типа, способной выполнять не только военные задачи, но и миротворческие функции.

Согласно Уставу, на воинскую службу по жребию, который делался один раз в жизни, призывались по достижению 20 лет. Те, кто по номеру вынутого жребия не подлежал поступлению в постоянные войска, зачислялись в ополчение. Устав определил общий срок военной службы в сухопутных войсках 15 лет, на флоте – 10 лет, из которых действительная военная служба равнялась 6-ти годам на суше и 7-ми – на флоте. Остальное время приходилось на службу в запасе (9 лет в сухопутных войсках и 3 – на флоте). То есть по выходу в запас солдат время от времени мог призываться на учебные сборы, не препятствовавшие его частным занятиям или крестьянскому труду.

Устав также предусматривал льготы по образованию и отсрочки по семейному положению. Так, освобождению от службы подлежали единственные сыновья у родителей, единственные кормильцы в семье при малолетних братьях и сестрах. От воинской повинности по социальному состоянию освобождались священники всех христианских вероисповеданий, некоторые лица мусульманского духовенства, штатные преподаватели вузов и обладатели ученых степеней. По национальному признаку освобождению подлежали нерусские туземные жители Средней Азии, Казахстана, некоторых округов Сибири, Астраханской, Тургайской, Уральской, Акмолинской, Семипалатинской, Семиреченской и Закаспийской областей, Архангельской губернии. На особых условиях к службе привлекалось население Северного Кавказа и Закавказья нехристианских вероисповеданий: для них отбывание воинской повинности заменялось уплатой особого денежного сбора. Сокращенные сроки службы устанавливались для выпускников высших, средних и низших учебных заведений. По уставу 1874 года для первых срок определялся в полгода, для вторых – в полтора года и для третьих – в три года. Впоследствии эти сроки были увеличены соответственно до двух, трёх и четырёх лет. Предусматривалась и практика отсрочек для учащихся высших и средних учебных заведений.