Командуя дивизией в Самбро-Мааской армии (генерал Журдан), отличился при взятии Маастрихта. Успешно действовал и в кампаниях 1795 и 1796 гг. на Рейне. Проявил себя как один из выдающихся дивизионных командиров. В начале 1797 г. во главе 20-тысячного корпуса направлен с Рейна на подкрепление в Итальянскую армию генерала Бонапарта. Командуя дивизией, с отличием действовал в сражении на р. Тальяменто (16 марта 1797 г.), при штурме Градиска (19 марта 1797 г.), занял Триест.

Но уже в это время между своенравным гасконцем и амбициозным корсиканцем главнокомандующим Бонапартом возникают серьезные разногласия, вскоре переросшие во взаимную неприязнь, сохранившуюся на все последующие годы, особенно со стороны Бернадотта. После заключения перемирия с австрийцами (апрель 1797 г.) Бонапарт под благовидным предлогом (доставка в Париж трофейных знамен, что считалось почетным поручением) удалил Бернадотта из армии.

Во время пребывания Бернадотта в Париже на юге Франции, главным образом в Марселе, вспыхнули спровоцированные роялистами волнения. Усмирить их Директория поручила Бернадоту. Это поручение он выполнил успешно, не прибегая к вооруженной силе.

Затем Бернадотт вернулся в Итальянскую армию и снова вступил в командование своей дивизией. После заключения Кампоформийского мира (17 октября 1797 г.), завершившего войну республиканской Франции с Австрией, Бернадотт был переведен в армию, формировавшуюся на западном побережье Франции. Когда ее командующим был назначен Наполеон Бонапарт, то Бернадотт демонстративно отказался служить под его командованием и просил для себя другого назначения. Директория просьбу Бернадота удовлетворила: он был возвращен обратно в Итальянскую армию, а затем назначен послом в Австрию (1798 г.).

Дипломатическая деятельность Бернадотта была короткой. Уже через несколько месяцев за бестактность в проявлении своих республиканских убеждений в монархической Вене он был отозван во Францию и назначен командующим Обсервационной армией на Верхнем Рейне (1798 г.).

В ходе кампании 1799 г. Бернадотту удалось не только сдержать натиск превосходящих сил противника, но и нанести ему ряд поражений, в том числе овладеть крепостью Мангейм.

С июля по сентябрь 1799 г. Бернадотт занимал пост военного министра Французской республики, проявив незаурядные административные способности. Однако его тесные связи с якобинцами, отстраненными от власти летом 1794 г., отдельные группы которых он вместе с генералом Журданом пытался объединить в партию и возглавить ее, вызвали подозрение Директории. В результате Бернадотт был снят с должности и уволен в отставку.

Перевороту 18 брюмера (9 ноября 1799 г.) Бернадотт не сочувствовал, но и не осмелился открыто выступить против него, да и возможности такой он не имел, находясь не у дел. Тем не менее сторонники Наполеона Бонапарта, пришедшего в результате переворота к власти во Франции, учитывая нелояльность Бернадотта, включили его в список лиц, подлежащих изгнанию. Но Бонапарт, несмотря на свое негативное отношение к Бернадоту, все же вычеркнул его из этого списка. Такая странная, на первый взгляд, снисходительность первого консула к своему явному противнику объяснялась, видимо, прежде всего его уважением к корсиканским нравам и обычаям с их патриархально-родовым менталитетом. Поэтому немаловажную роль в судьбе Бернадота сыграла, по всей вероятности, его косвенная принадлежность к клану Бонапартов, заступничество свояка Жозефа Бонапарта и его жены (сестры жены Бернадотта), не угасшее чувство Наполеона к когда-то любимой им женщине, ставшей женой Бернадотта, а также тайный расчет Наполеона привлечь на свою сторону, хотя и строптивого, но талантливого генерала.