Будущий полководец женился в 1884 г. на дочери отставного капитана – Зиновии Александровны Боржезовской, от брака с которой у него было три дочери.
В должности командира 151-го Пятигорского пехотного полка в 1896 г. Н.В. Рузский производится в генерал-майоры, после чего, как генштабист, переводится в штаб Киевского военного округа на пост генерал-квартирмейстера. В качестве комполка Рузский также не избежал обычного для российской армии того времени явления – практики недолговременного командования полком офицером Генерального штаба, чтобы, отслужив необходимый командный ценз, быть повышенным по службе. Собственно, так оно и произошло. Именно за это в армейской среде не любили генштабистов, называя их «моментами» – то есть командирами на короткий срок, чтобы потом уйти в штаб.
В должности окружного генерал-квартирмейстера штаба Киевского военного округа ген. Н.В. Рузский получает очередную награду – орден Св. Станислава 1-й степени. В апреле 1902 г. генерал Рузский переводится с повышением – на пост начальника штаба Виленского военного округа. Здесь же в 1903 г. он становится генерал-лейтенантом. Как видим, на рубеже веков в течение почти 7 лет ген. Н.В. Рузский служит в штабах пограничных военных округов, ориентированных на войну против Германии и Австро-Венгрии. Не довелось ему послужить разве что в Варшавском военном округе. Уже в этот период военной карьеры в деятельности ген. Н.В. Рузского проскальзывает его увлечение мелочами службы, в ущерб всесторонности и полноты взгляда, необходимых крупному полководцу. Мелочность и канцеляризм в принципе были свойственны верхам русской военной машины, воспитываемой бюрократически ориентированной на внешний порядок системой графа Д.А. Милютина. Это и позволило впоследствии характеризовать Рузского: «неглупый, довольно образованный, но очень слабый здоровьем человек»; приверженец уставных форм и тех мелочей, за деревьями которых всегда проглядывается лес[2].
Как другие будущие полководцы Первой мировой войны М.В. Алексеев и А.Е. Эверт, ген. Н.В. Рузский попадает на фронт Русско-японской войны 1904–1905 гг. после сражения на реке Шахэ, когда главнокомандующим всеми сухопутными и морскими силами, действующими против Японии, ген. А.Н. Куропаткиным под давлением столицы было принято решение разделить Маньчжурскую армию на три. Командующим 2-й Маньчжурской армией был назначен командующий Виленским военным округом ген. О.К. Гриппенберг. Вместе с ним на аналогичную должность начальника штаба 2-й Маньчжурской армии отправился и его ближайший сотрудник генерал Рузский.
Первым сражением Русско-японской войны, в котором принял участие ген. Н.В. Рузский, стало сражение под Сандепу 12–16 января 1905 г., которое явилось последней попыткой ген. А.Н. Куропаткина вырвать у противника инициативу действий посредством разгрома основных сил японцев впредь до подхода к ним на подмогу высвободившейся после падения крепости Порт-Артур 3-й японской армии ген. М. Ноги.
2-я русская армия генерала Гриппенберга была предназначена для главного удара в предстоящем наступлении. Следовательно, Н.В. Рузскому выпал шанс проявить себя в качестве ближайшего помощника второго по значению в Маньчжурских армиях (после самого генерала Куропаткина) военачальника. В этот момент в состав 2-й армии входили 1-й Сибирский, Сводно-Стрелковый корпуса, а также 8-й и 10-й армейские корпуса. В частности, 5-й стрелковой бригадой Сводно-Стрелкового корпуса командовал полковник Н.Н. Юденич.
Уже в этом бою начальник штаба 2-й Маньчжурской армии проявил в своем командно-организационном творчестве те черты, которые особенно ярко выявятся в период Первой мировой войны, когда генерал Рузский станет занимать высшие командные посты в Действующей армии. Так, перед Сандепу Рузский чрезвычайно преувеличивал силы противника, как бы заранее готовя оправдание в случае своего поражения. Точно так же он действовал и в кампании 1914 г. против немцев в боях в Польше.