Существенную роль в разоблачении агентуры неприятеля и других преступных элементов в начальный период войны сыграла проводимая органами безопасности фильтрация советских военнослужащих, вышедших из окружения или бежавших из фашистского плена. Механизм этой работы складывался постепенно. В первые месяцы войны, когда глубокий тыл быстро превращался в передовую, эту работу особым отделам НКВД приходилось налаживать на ходу. Между тем по состоянию на 29 сентября 1941 г. только на Юго-Западном фронте из окружения вышли 9084 человека: младших командиров и рядовых – 6766, среднего комсостава – 2227, старшего комсостава – 76, высшего комсостава – 15 человек. За это же время вышли из окружения 116 сотрудников особого отдела НКВД Юго-Западного фронта. Все вышедшие из окружения были проверены особыми отделами.
С первых дней войны в соответствии с военно-стратегическими планами фашистского командования по захвату Москвы и Ленинграда основные силы немецкой разведки были сконцентрированы на центральном и северном направлениях. Осенью 1941 г. только на московском направлении действовали три абверкоманды, 19 абвергрупп, особая команда полиции безопасности и СД «Москва», около 10 особых и оперативных команд и другие разведывательные и карательные органы гитлеровцев.
В противоборстве с сильными спецслужбами противника летом – осенью 1941 г. особые отделы НКВД постепенно приобретали опыт ведения контрразведывательной работы в условиях боевых действий. Несмотря на имевшиеся трудности, уже в период битвы за Москву органами военной контрразведки был разоблачен ряд немецких агентов, прошедших специальную подготовку в городах Борисове и Смоленске и переброшенных в советский тыл на тульском участке фронта с заданием внедриться в штабы и воинские части. Кроме того, агентам поручалось проникнуть в Москву для сбора сведений о расположении минированных участков, ходе эвакуации, дислокации аэродромов, эффективности бомбардировок города немецкими самолетами и многом другом. Арестованные агенты назвали еще 65 советских военнопленных, завербованных немецкой разведкой и частью уже заброшенных в советский тыл.
Активная работа по розыску вражеской агентуры проводилась и на других фронтах. Так, согласно сообщению НКВД СССР в ГКО от 29 ноября 1941 г. особым отделом НКВД Северо-Западного фронта в октябре 1941 г. была выявлена и арестована переброшенная через линию фронта в районе Кресцы – Валдай группа агентов немецкой военной разведки из 17 человек. Арестованные показали, что имели задание по сбору сведений о расположении штабов, аэродромов, складов с боеприпасами и продовольствием, передвижениях артиллерийских и танковых частей Красной армии.
В тылу страны контрразведывательные подразделения территориальных органов и особых отделов НКВД во второй половине 1941 г., занимаясь преимущественно борьбой с разведывательно-подрывной деятельностью спецслужб фашистской Германии, обратили внимание на некоторую активизацию работы с легальных позиций английских спецслужб. 25 сентября 1941 г. 3‑е управление НКВМФ СССР направило сообщение народному комиссару Военно-морского флота СССР Н.Г. Кузнецову о проведении разведывательной деятельности на Черноморском флоте представителями английской военно-морской миссии. Находившиеся на Черноморском флоте члены миссии Фокс и Эмброуз путем личного наблюдения и бесед с командным составом пытались подробно выяснить, какое вооружение имеется на том или другом корабле, каковы их тактические и ходовые качества и т. д. В начале ноября 1941 г. сходное сообщение об активизации разведывательной деятельности сотрудников английской военно-морской миссии в Архангельске направил в Москву 3‑й отдел Беломорской военной флотилии.