На группировку бывшего Отамана Украины Симона Петлюры Канарис также не мог рассчитывать: ее члены страшно перессорились между собой.

В феврале 1938 года после роспуска имперского военного министерства было образовано верховное главнокомандование вермахта (Oberkommando der Wehrmacht, OKW; ОКВ). Главой ОКВ стал фельдмаршал (позднее генерал-фельдмаршал) Вильгельм Кейтель (1882–1946). Управление абвер/заграница, возглавляемое адмиралом Вильгельмом Канарисом, непосредственно подчинялось Кейтелю, позже Гитлер подчинил себе также и разведывательно-контрразведывательный аппарат. Отношения между Гитлером и Канарисом считались очень хорошими. Шеф разведки не только пользовался благосклонностью диктатора, но и располагал властью и большими суммами денег для подрывной, подпольной и шпионской деятельности в иностранных государствах. Учреждение, которым он руководил, играло важную роль в подготовке к войне. Канарис был убежденным сторонником партии нацистов, и только в конечной фазе войны, предвидя поражение Германии, рискнул перейти на другую сторону. За это в апреле 1945 года его повесили в концлагере Флоссенбюрг.

Весной 1938 года аппарат Канариса и Организация украинских националистов заключили между собой союз. Коновалец и абвер II в письменной форме договорились об общих принципах обоюдного сотрудничества. При этом немецкая сторона избегала обещаний и политических обязательств. Была лишь неопределенная гарантия, что при успешном сотрудничестве политические желания ОУН будут учтены.

При подписании этого договора, который содержал также ряд обещаний в области военной подготовки, материально-технической поддержки и разведывательного обучения, Коновалец и его организация превратились в самых важных агентов влияния немецко-фашистского абвера. Полковник Коновалец, которого его приверженцы называли "генералом", получил такой же агентурный псевдоним от абвера. "Генерала", в соответствии с чином, принимал лично адмирал Канарис.

Теперь украинские националисты были непосредственно включены в разведывательную стратегию против Польши и Советского Союза. Руководил ими полковник Эрвин Штольце. Он был движущей силой подпольной борьбы украинских националистов против Польши (до 1939 года) и против Советского Союза. Штольце сам воспринимал себя как наставника, организатора, партнера и командира украинских националистов. Кроме того, он непосредственно "вел" завербованных агентов влияния внутри руководства ОУН.

Командир полка "Бранденбург", особого формирования абвера II, отвечал за военное обучение членов ОУН и ее руководящих кадров.

Получив от немцев достаточные суммы денег, Коновалец начал отправлять в Советскую Украину диверсионные группы и эмиссаров. Заброска происходила через Румынию. Для советских органов контрразведки это оставалось тайной так же недолго, как и действия из-за границы против советских учреждений и отдельных лиц, включая различные акции саботажа, число которых явно возрастало. Руководство советских спецслужб сделало вывод, что необходимо реагировать сходным образом. Если убийства, диверсионные и террористические акты из-за границы совершаются против государственных учреждений, против Красной армии и советских граждан, то советская разведка может преследовать виновников этих преступлений, в том числе заграницей. Так и произошло. 23 мая 1938 года Коновалец погиб в Роттердаме: сотрудник советской разведки убил его с помощью взрывчатки, замаскированной в подарочной упаковке конфет.

Преемником его стал Андрий Мельник, близкий коллега Коновальца и доверенное лицо немцев. Если Коновалец старался избегать слишком большой зависимости от своих "хозяев" и спонсоров, то Мельнику не была свойственна подобная сдержанность. Получив в абвере псевдоним "Консул I", он стал ключевой фигурой абвера II в тайной борьбе против Польши и Советского Союза.