Первым начальником восстановленного Главного штаба Александр II назначил генерал-лейтенанта графа Ф.Л. Гейдена, младшего сына героя Наваринского сражения адмирала графа Л.П. Гейдена. Сам генерал являлся участником Кавказской войны (1817-1864 гг.) и активным помощником военного министра графа Д.А. Милютина в деле проведения военных реформ. Именно ему довелось обживать новое здание на Дворцовой площади. В 1881 г. император назначил Гейдена финляндским генерал-губернатором и командующим войсками Финляндского военного округа, а на место начальника Главного штаба был поставлен генерал Н.Н. Обручев.

Как и его предшественник, Обручев активно проводил начатые в 1860-е гг. военным министром Д.А. Милютиным реформы. Именно он разработал позднее реализованный план военных действий против Турции, а затем планы военных действий против Германии и Австро-Венгрии, десантной операции на Босфоре. Генерал инициировал разработку системы резервных войск, модернизацию и усиление фортификационных сооружений целого ряда крепостей, формирование новых корпусов, полков, перевооружение и совершенствование инженерных частей. Первый председатель Совета министров Российской империи граф С.Ю. Витте говорил об Обручеве, что он являлся «умом Военного министерства».

Ф.Л. Гейден

Н.Н. Обручев

В.В. Сахаров

За свою деятельность на посту начальника Главного штаба Н.Н. Обручев произведен в генералы от инфантерии, награжден одной из высших имперских наград – орденом Св. Андрея Первозванного, в 1893 г. назначен членом Госсовета. Его именем назван один из кронштадтских фортов.

Следующие шесть лет, с 1898 по 1904 г., начальником Главного штаба являлся генерал В.В. Сахаров. До этого он принимал участие в Русско-турецкой войне 1877-1878 гг., был помощником начальника штаба Варшавского военного округа, начальником штаба Одесского военного округа. При нем в 1900 г. аппарат Главного штаба разделили на пять управлений – первого генерал-квартирмейстера, второго генерал-квартирмейстера, дежурного генерала, военных сообщений и военно-топографическое управление.

После начала Русско-японской войны он сменил на посту военного министра генерал-адъютанта А.Н. Куропаткина, направленного командовать Маньчжурской армией. В ноябре 1905 г. В.В. Сахаров застрелен в доме тогдашнего саратовского губернатора П.А. Столыпина членом партии левых эсеров террористкой А.А. Биценко (урожд. Камористой).

Последним начальником Главного штаба после В.В. Сахарова стал генерал-лейтенант П.А. Фролов. А в 1905 г. Главный штаб переподчинили Генеральному штабу в качестве его кадрового департамента, возложив на него обязанности по управлению казачьими войсками и Туркестанским военным округом. При штабе действовали также Высшая аттестационная комиссия и отдел, занимавшийся вопросами пенсионного обеспечения военнослужащих.

Структурно Главный штаб теперь являлся Главным управлением Генерального штаба. В период с июня 1905 по ноябрь 1917 г. в должности начальника этого подразделения Генерального штаба сменилось 10 генералов, т. е. начальники менялись чуть ли не каждый год. Вот их перечень:

06.1905-12.1908 г. – генерал от кавалерии Ф.Ф. Палицын;

12.1908- 03.1909 г. – генерал от кавалерии В.А. Сухомлинов;

03-09.1909 г. – генерал от инфантерии А.З. Мышлаевский;

09.1909- 02.1911 г. – генерал-лейтенант Е.А. Гернгросс;

02.1911-03.1914 г. – генерал от кавалерии Я.Г. Жилинский;

03-08.1914 г. – генерал от инфантерии Н.Н. Янушкевич;

08.1914-08.1916 г. – генерал-майор М.А. Беляев;

08.1916-05.1917 г. – генерал-лейтенант П.И. Аверьянов;

05-09.1917 г. – генерал-лейтенант И.П. Романовский;