Спустя четыре года советская спецслужба, и в частности разведка, подверглась очередной реорганизации. 10 июля 1934 года постановлением ЦИК СССР был образован Народный комиссариат внутренних дел (НКВД) СССР, в составе которого было создано Главное управление государственной безопасности (ГУГБ), и основные функции ОГПУ перешли к нему. Иностранный отдел стал 5-м отделом и в полном составе вошел в него. Перед руководством и сотрудниками отдела партийные вожди поставили следующие задачи:

1) выявление направленных против СССР заговоров и деятельности иностранных государств, их разведок и генеральных штабов, а также антисоветских политических организаций;

2) вскрытие диверсионной, террористической и шпионской деятельности на территории СССР иностранных разведывательных органов, белоэмигрантских центров и других организаций;

3) руководство деятельностью закордонных резидентур;

4) контроль за работой бюро виз, въездом из-за границы иностранцев, руководство работой по их регистрации и учету в СССР.

Штат отдела утвердили в количестве 210 человек, в его составе создали 13 подразделений, из которых 7 по географическому принципу руководили зарубежными резидентурами, а остальные выполняли функции координации и обеспечения разведывательной деятельности. Бывший ИНО, а теперь 5-й отдел обретал накануне войны достаточно развернутую и продуманную структуру, нацеленную на масштабную работу.

В то время как разведка – этот «меч Лубянки» – набирала силу и все острее разила противника, то контрразведка – ее «щит» – в руках Сталина превращалась в «кувалду», которая безжалостно плющила как настоящих, так и мнимых врагов. Последних, по мере усиления его единоличной власти, становилось все больше.

В ВКП (б) нарастал глухой ропот, исходивший от оппозиции в лице старой ленинской гвардии – Троцкого, Зиновьева, Каменева, Бухарина, Рыкова и других, против авторитарного стиля руководства Сталина и его модели строительства социализма. Сворачивание им и его сторонниками новой экономической политики, позволившей стране в кратчайший срок преодолеть голод и разруху, а также оттеснение на второстепенные роли молодыми выдвиженцами из партийного аппарата вождей революции вызывали со стороны последних ожесточенное сопротивление.

С середины 1920-х годов в партии развернулись острые дискуссии о путях развития страны. И пока Троцкий со товарищи спорили со Сталиным и его сторонниками на партийных конференциях, выступали с обличительными статьями в прессе, он действовал. И в этой борьбе за власть органы государственной безопасности, имевшие в своем распоряжении огромный негласный аппарат и накопившие значительный опыт тайной войны с контрреволюцией, все больше попадали под власть партийного аппарата и превращались в руках Сталина в важнейший инструмент расправы над оппозицией. Они отходили от борьбы с реальным противником и переключались на подавление внутренней оппозиции и инакомыслия. Главным врагом на пути Сталина к неограниченной власти над партией и страной стал ближайший соратник Ленина – Л. Д. Троцкий.

У чекиста есть только два пути: на выдвижение и в тюрьму.

И. Сталин

Смерть Ленина 21 января 1924 года не примирила двух, как он их называл в своем, тогда еще мало известном широкому кругу партийцев письме-завещании, выдающихся вождей – Троцкого и Сталина. Еще не успело остыть тело Ленина, как они сошлись в непримиримой схватке за власть над партией и гигантской страной. Ради нее каждый готов был переступить не то что через партийные принципы, но и через родную мать. В этой битве двух титанов именно органы государственной безопасности ОГПУ – НКВД сыграли ключевую роль в победе Сталина.