А в 1825-ом году московский градоначальник князь Дмитрий Владимирович Голицын предложил Фёдору Петровичу Гаазу, тогда уже коллежскому советнику, возглавить Главное аптекарское и медицинское управление города. Получив согласие, назначил его штадт-физиком и главным врачом города Москвы, в обязанности которого входило инспектирование больниц, а тем самым и выявление проблем, связанных с обеспечением лечебных заведений медикаментами. Князь ценил доктора Гааза не только за профессиональные качества, но и за трудолюбие, педантизм, высокое чувство долга, ответственность за порученное дело, честность и неподкупность.
Доктор Гааз с большим энтузиазмом взялся за дело. Обнаружив антисанитарию в больницах, потребовал проведения там дезинфекции и постоянных уборок помещений. Кроме того, занялся вопросом ремонта больниц и лекарственных складов. Предложил проведение ряда реформ. В результате проверок были выявлены многочисленные случаи воровства и другие злоупотребления чиновников на местах. В свою очередь они писали на него ложные доносы, называли в жалобах сумасшедшим немцем и оскорблениями довели до того, что в 1826 году Фёдор Петрович подал в отставку с государственной службы. Известно, что за короткое время на него было заведено 19 уголовных дел, все их он в течение 12 лет выиграл.
К концу 1820-ых годов Гааз постепенно оставил
доходную врачебную практику и целиком посвятил себя лечению бедных людей с тяжёлыми судьбами. К тому времени он уже был одним из богатейших и уважаемых людей столицы. Приобрёл особняк в центре Москвы на Кузнецком Мосту, владел имением Тишково с сотнями крепостных и суконной фабрикой, имел карету, запряжённую четырьмя белыми породистыми лошадьми.
1829-ый год стал для доктора Фёдора Петровича Гааза решающим. В этом году он был назначен князем Голицыным главным врачом по тюрьмам и вошёл в состав вновь созданного попечительного совета по тюрьмам. При первых же инспекторских проверках он установил, что заключённые содержатся в бесчеловечных условиях, без деления по возрастам, полам и тяжести содеянного. Их не мыли, почти не кормили, отхожие места не убирались. Помещения не отапливались. В таких антисанитарных условиях они становились источником эпидемий, в том числе – холеры, разразившейся в Москве в 1830-ом году.
В те годы массовым явлением стало этапирование осуждённых в Сибирь. И Москва была одним из пересыльных центров, где формировались группы. Средства на содержание в них заключенных почти не выделялись, а если и поступали, то разворовывались. Пересыльная тюрьма находилась тогда на Волхонке, на месте нынешнего Музея Изобразительных Искусств имени А. С. Пушкина. По настоянию Гааза её перевели из центра города на Воробьёвы горы. Там в 20-е годы начали строить Храм Христа Спасителя, но вскоре работы свернули, а бараки для строителей остались. Вот в них Гааз и предложил устроить новую тюрьму и при ней госпиталь для немощных заключенных.
Судьба вновь предоставила ему право выбора между жизнью преуспевающего аристократа или борца за униженных и оскорблённых. К тому времени он уже достаточно владел русским языком. Его хорошо понимали люди, которые его окружали и к которым он проявлял сочувствие. Оказание помощи бедным и заключённым стало для него не актом милосердия, а выполнением долга перед людьми и государством. Именно по настоянию Фёдора Петровича Гааза, в тюрьме на Бутырке проложили дренажную систему, вымостили дорогу, а площадь засадили тополями. Деревянные полы заменили кафельными, а кровати стали панцирными. Во внутреннем дворе тюрьмы доктор Гааз распорядился построить церковь и несколько мастерских, одна из которых работает и сейчас. Благодаря его настоянию, политические заключённые и ссыльные получили право подачи прошений о пересмотре их дел. Для этого в России ввели целый чиновничий штат, задачей которого было сопровождение каждого прошения на всех этапах его рассмотрения.