Однако на заводах отливаются орудия по чертежам, «присланным от Брюса», а в 1701 году русская армия опередила Западную Европу на полстолетия, создав конную артиллерию. В том же году Петр, сменив гнев на милость, назначает Брюса губернатором Новгорода, которым тот управлял четыре года. Вместе с тем Яков Вилимович активно воюет, участвуя почти во всех крупных сражениях. Он содействовал взятию Нотебурга (Шлиссельбурга) в 1702 году и Ниеншанца в 1703, завоевывал Нарву и Иван-город. В июле 1706 года Брюс получает чин генерал-майора, а в октябре участвует в блестящей победе Меншикова над шведским генералом Марфельдом под Калишем. Петр награждает его своим именным портретом с алмазами, а король Польши Август II жалует ему орден Белого Орла. Два следующих года Брюс неотлучно находится в армии, совершенствуя артиллерию и обучая солдат и офицеров. В свободное от воинской доблести время читает и переводит книги, в частности, в 1708 году заканчивает перевод «Геометрии словенски землемерия», ставшей первым печатным учебником в России.

Но на войне как на войне, и Брюс отличается в битве при деревне Лесной (1708), командуя левым флангом армии, и в сражении под Полтавой (1709), управляя всей русской артиллерией, состоявшей из 72 орудий. Именно артиллерия под командованием Брюса решила исход Полтавской битвы, сокрушив огнем шведские полки Карла XII. За Полтаву Яков Вилимович был награжден орденом Святого Андрея Первозванного, а 21 декабря 1709 года он участвует в триумфальном шествии Петра по Москве в ознаменование победы под Полтавой.

В мае 1710 года Брюс вместе с осадной артиллерией прибывает под Ригу под начало Б. П. Шереметева и принимает участие в осаде и взятии Риги. Через два месяца он вместе с русскими войсками вступает в город.

В 1711 году Брюс сопровождает Петра в Прутском походе и становится генерал-фельдцейхмейстером. Вместе с царем едет в Западную Европу, выполняет ряд его дипломатических поручений, заводит личные контакты с видными учеными, посещает их лаборатории и библиотеки, закупает новинки научной литературы и произведения искусства, приглашает в Россию «опытных офицеров и всякого звания художников». Доверяя широким познаниям и деловой экономности Брюса, Петр в сопроводительной грамоте писал: «И что он, генерал наш, им в контрактах обещает и заключит, то от нас все сдержано будет без умаления». В Торгау Брюс знакомится с Готфридом Вильгельмом Лейбницем, с которым будет переписываться до 1716 года – года смерти немецкого ученого.

В 1712–1713 годах Брюс снова в армии, командует объединенной русской, датской и саксонской артиллерией в Померанском походе. Закончив службу на военном поприще, выполняет в Германии поручения Петра по найму на русскую службу специалистов и ремесленников: «мастеровых людей знатных художеств, которые у нас потребны» (архитекторов, живописцев, садовников). Приобретает инструменты для научных и мореходных целей, художественные произведения и редкости для царского собрания.

Мы уже отмечали, что дела военные не мешали Брюсу заниматься и сугубо гражданской деятельностью, стоит вспомнить хотя бы создание им географической карты во время Азовского похода или переводы специальной литературы. Надо отметить, что Петр, высоко ценивший разносторонние научные познания Брюса, широко использовал их и в мирных целях. Так в 1706 году царь передал в его ведение Московскую гражданскую типографию. А через три года из ее стен вышли в свет первые листы календаря, ставшего самым популярным в России на протяжении более двух веков и получившего известность как «Календарь Брюса», или «Брюсов календарь», или просто «Брюс».