Придя к власти, Оксеншерна корректирует внешнеполитический курс Швеции, последовательно исправляя ошибки, допущенные Густавом-Адольфом. Франция вновь становится привилегированным партнером Швеции. Ришелье продолжает финансирование шведских военных операций в Германии. Оксеншерна постарался рассеять опасения рейнских князей, обещая невмешательство при условии соблюдения ими нейтралитета в войне.

Одним из главных пунктов программы Оксеншерны было довести войну со Священной Римской империей до конца, но при этом возместить принесенные жертвы. Для достижения этой цели требовалось большое напряжение сил. Только пустив в ход все свои дипломатические способности, Аксель Оксеншерна добился успеха.

Канцлер лично отправился в Германию и предпринял все меры, чтобы восстановить Евангелическую унию. В Эрфурте он собрал представителей 12 протестантских городов империи и заручился их поддержкой. Затем прибыл в Хейльбронн (Гейльброн) на общегерманский съезд протестантских князей, куда были приглашены представители Франции, Англии и Голландии. Французские интересы представлял маркиз де Фекьер, кузен «серого кардинала» – отца Жозефа. Он сыграл важную роль в заключении в феврале 1633 года союзного договора между Швецией и крупнейшими протестантскими княжествами. Он же помог Оксеншерне стать фактическим и формальным главой общегерманской протестантской партии в противовес кандидатуре Иоганна-Георга, курфюрста Саксонского, не без оснований подозреваемого Ришелье в тайных намерениях пойти на сепаратную сделку с Фердинандом II.

Но через короткое время положение Швеции в Германии резко ухудшилось. В сражении при Нердлингене в конце лета 1634 года шведские войска потерпели жестокое поражение. Союзники изменили, взаимоотношения с Францией представляли большие трудности, в самой Швеции среди некоторых членов Государственного совета и среди сословий господствовало убеждение в необходимости заключить мир как можно скорее и любой ценой. Но канцлер не хотел, как он выразился однажды, «выводить родину из войны без репутации, уважения, выгоды, дружбы и всего остального».

Оксеншерна приступил к переговорам с кардиналом Ришелье относительно возобновления Бервальдского договора 1631 года. Несмотря на поражение под Нердлингеном, канцлер не отказался от намерений удержаться в Германии, где была дислоцирована шведская армия под командованием генерала Баннера. Он был готов продолжить борьбу, но настоятельно требовал, чтобы в нее включилась и Франция. Завершающая стадия франко-шведских переговоров проходила в Париже, куда с огромной свитой, достойной суверенного монарха, прибыл Оксеншерна.

28 апреля 1635 года в Компьене был подписан договор о союзе между Францией и Швецией. По условиям договора Франция обязывалась разорвать все отношения с Габсбургами и начать военные действия на стороне протестантской коалиции, признавала также законным захват Швецией Майнцского и Вормсского архиепископств. Со своей стороны Швеция обещала восстановить католический культ в захваченных протестантами землях, заручившись обещанием Франции уважать протестантское вероисповедание на территориях, которые могут быть захвачены ею. Обе стороны взяли на себя обязательство не заключать сепаратного мира с Габсбургами.

В июне 1635 года Франция открыто вступила в Тридцатилетнюю войну и отвлекла на себя основные силы императора. Это дало возможность Швеции сосредоточиться на проблемах с Речью Посполитой. Через год после того, как истек срок перемирия с Польшей, никто не мог поручиться, что Владислав IV, примирившийся с царем Михаилом Федоровичем, не попытается отобрать шведскую корону у малолетней Кристины. Оксеншерна, заинтересованный в мире с Польшей, вынужден был пойти на значительные территориальные уступки Речи Посполитой, отказавшись от завоеваний Густава-Адольфа в Польской Пруссии. В результате переговоров в Штумсдорфе (Пруссия) между Швецией и Польшей при посредничестве Франции было заключено новое перемирие (сентябрь 1635 года).