Несмотря на довольно юный возраст, в декабре 1806 года Граббе впервые участвовал в сражении при Голымине. В январе 1807 года – в сражении при Прейсиш-Эйлау. За храбрость, проявленную в этих сражениях, был награжден Золотым крестом «За победу при Прейсиш-Эйлау» и орденом Св. Анны 3-й степени на шпагу. В 1808 году, командуя ротой Владимирского полка, Граббе принимал активное участие практически во всех боевых действиях русской армии в этой кампании.

После заключения Тильзитского мира Граббе продолжил службу в составе 27-й артиллерийской бригады русской армии, расположенной в Польше на границе с Австрией. Был произведен в поручики. Находясь в Кракове, состоял адъютантом генерала Ермолова.

В сентябре 1810 года Павел Граббе был командирован Барклаем де Толли на разведывательную работу в Мюнхен (Баварское королевство).

Согласно некоторым документам, сохранившимся до наших дней, командировка Граббе за границу являлась весьма успешной. В частности, ему удалось завязать тесные контакты с видными немецкими учеными того времени от которых поступала интересная информация. С одним из них – бароном Шеллингом – отношения сохранил и в дальнейшем.

В описании Граббе современниками на тот период отмечалось, что он был «высокого роста, стройный, самой нарядной наружности, от природы наделенный пышным красноречием, в обществе смелый до дерзости… Дар красноречия у Граббе был развит до высшей степени. Прекрасное его лицо оживлялось, синие глаза блестели, благозвучный голос принимал прекрасную интонацию, а слушатель просто очаровывался».

В начале 1812 года Граббе был вызван в Санкт-Петербург, где получил предписание отправляться в Вильно, где тогда располагалась главная квартира военного министра Барклая де Толли, адъютантом которого он был назначен.

Незадолго до начала военных действий с французами Барклай де Толли направил Граббе в качестве парламентера во французскую армию. При этом перед ним были поставлены конкретные разведывательные задачи. Граббе блестяще справился с поручением. По просьбе военного министра о результатах своих наблюдений он доложил лично Александру I.

В период Отечественной войны 1812 года Павел Граббе являлся адъютантом при командующем 1-й Западной армией М. Б. Барклае де Толли с зачислением в лейб-гвардии Конную артиллерию. Принимал непосредственное участие в боевых действиях.

Так, 6 августа 1812 года, когда положение подразделений русской армии оказалось весьма критическим, благодаря беспорядочному отступлению и напору французских войск, Граббе сумел восстановить порядок на одном из участков фронта, собрал вокруг себя большое количество солдат и двинулся с ними навстречу неприятельской колонне. Встав на ее пути, он сумел прикрыть отступление русских войск. Действия Граббе были отмечены орденом Св. Георгия 4-й степени.

В дальнейшем участвовал практически во всех значительных сражениях Отечественной войны: при Витебске, Смоленске, Бородино, Татутино, Малоярославце, Вязьме, Красном.

В ходе бегства Наполеона и его войска Граббе был откомандирован в партизанский отряд Вальмодена с которым совершал нападения на отступающие разрозненные части французской армии. В дальнейшем являлся участником Заграничного похода русской армии во Францию в 1813–1814 годах. В этот же период получил чин капитана.

По возвращении на родину в 1815 году Граббе был произведен в полковники и назначен командиром Лубенского гусарского полка, расквартированного в Ярославле. К этому времени относится его знакомство с будущими декабристами. Полковник принимал участие в ряде их совещаний. Однако выступал против силовых действий, и в заговоре 14 декабря 1825 года участвовать отказался. Тем не менее Граббе был арестован по делу декабристов, четыре месяца провел в тюрьме, но осужден не был, а отправлен в отставку.