Закончив эту важную и сложную работу, Франклин наконец-то мог подать в отставку. 10 марта 1785 года Джефферсон вместо него был назначен послом и занимал этот пост до 1789 года.
Дела у преемника пошли довольно вяло. Впрочем, в том не его вина. В задачи Франклина входило сохранить союз с Францией в противовес Англии и способствовать развитию американской торговли с ведущими европейскими странами. Европейские государства, занятые своими проблемами, мало интересовались новым торговым партнером. На первых порах договор удалось подписать только со слабенькой Пруссией. Джефферсон утешал себя тем, что в случае войны американский флот сможет найти приют в прусских гаванях. Но вскоре эта страна отвергла договор. Было отчего прийти в уныние. Однако в 1789 году американский Конгресс одобрил посольскую деятельность Джефферсона и продлил его полномочия еще на три года. Но срок этот отбыть ему не довелось. Президент Вашингтон решил назначить его государственным секретарем.
В обязанности Джефферсона входило руководство внешнеполитической службой, проведение цензов, гарантирование патентов, наблюдение за работой федеральных служб, контроль над употреблением государственной печати, публикация законов, рассмотрение трений между штатами, определение границ между штатами и другое.
С первых же дней у Джефферсона стали складываться непростые отношения с главой департамента финансов и лидером федералистов А. Гамильтоном. Тот стремился превратить США в строго централизованную индустриальную державу. Сторонника «фермерской республики» и демократа Джефферсона это не устраивало.
Госсекретарь видел опасность как в крайней централизации, грозящей республике монархической формой правления, так и в чрезмерной самостоятельности отдельных штатов.
Главный конфликт между ними разразился по поводу создания национального банка. В конце концов Гамильтон победил. Конгресс утвердил представленный им законопроект, а Вашингтон подписал Закон об учреждении Банка Соединенных Штатов. В июле 1793 года Джефферсон подал в отставку. Он понимал, что этот факт означает негативное отношение большинства в правительстве к его курсу. Вашингтон просил его задержаться, поэтому только в январе следующего года госсекретарь оставил свой пост и покинул Филадельфию.
Томас направился в Монтиселло, где ждала его красавица дочь Мэри. Марта уже успела выйти замуж, подарить ему внука и жила по соседству. Отныне все внимание бывшего государственного деятеля заняли семейные и хозяйственные хлопоты. Он решил перестроить свой дом и намеревался создать лучшее хозяйство в Соединенных Штатах. В течение нескольких лет Джефферсон занимается проблемами улучшения своих полей и ферм. Но тут на его пути встало извечное проклятие Юга – рабство.
Ненавидевший рабство Джефферсон был очень мягким хозяином. Он боролся с телесными наказаниями, стимулировал труд рабов увеличением заработка. Но все это мешало ему в полной мере воспользоваться результатами рабского труда, который эффективен только при нещадной эксплуатации. Пытался хозяин Монтиселло заниматься и развитием ремесел. Он планировал производство поташа, потом создание гвоздильни и даже делал ключи, замки, цепи, строил мельницу.
Занятый всеми этими делами, Джефферсон, казалось, совсем отошел от политики. Но шло время, и жизнь сельского помещика постепенно стала надоедать. Томас чувствовал, что «домашнее заточение» негативно отражается на его разуме.
Еще в 1792 году вместе с противником политики Гамильтона Медисоном он организовал первую оппозиционную партию в истории Америки. Чтобы предостеречь от возврата монархии, ее стали называть республиканской. Во второй половине 90-х годов партия стала набирать силу. Республиканцы понимали, что только авторитет Вашингтона поддерживает федералистов и стоит тому уйти с поста президента, как республиканцы смогут рассчитывать на победу на выборах. Они стали искать лидера, который пользовался бы не меньшим, чем у Вашингтона, авторитетом, и нашли его в Джефферсоне. Автор Декларации независимости дал согласие баллотироваться на президентских выборах 1796 года.