Теперь расстановка руководства НКВД СССР выглядела следующим образом. Наркомом внутренних дел являлся комиссар госбезопасности I ранга Берия Л.П. Обязанности его первого заместителя и начальника Главного управления государственной безопасности (ГУГБ) исполнял комиссар госбезопасности III ранга Меркулов В.Н. Заместителем наркома по войскам был комбриг Масленников И.И. Должности заместителя наркома и начальника Главного управления лагерей (ГУЛАГ) совмещал комдив Чернышов В.В. Заместителем наркома по кадрам, как уже отмечалось, стал майор госбезопасности Круглов С.Н. [4].
По своему составу Наркомат внутренних дел того времени имел следующую структуру. В него входили одиннадцать главных управлений: Главное управление государственной безопасности (ГУГБ), Главное экономическое управление (ГЭУ), Главное транспортное управление (ГТУ), Главное управление пограничных и внутренних войск (ГУПВВ), Главное управление рабоче-крестьянской милиции (ГУРКМ), Главное управление лагерей (ГУЛАГ), Главное управление шоссейных дорог (ГУШОСДОР), Главное управление пожарной охраны (ГУПО), Главное тюремное управление (ГТУ), Главное архивное управление (ГАУ) и Главное управление строительства на Дальнем Севере (ГУСДС) или Дальстрой. Далее структура наркомата включала Административно-хозяйственное управление (АХУ) и отделы: 1 спецотдел (учётно-регистрационный), 2 спецотдел (опертехники), 3 спецотдел (обыски, аресты, наружное наблюдение), Центральный отдел актов гражданского состояния (ЦОАГС), Центральный финансово-плановый отдел (ЦФПО), Отдел кадров (ОК), Переселенческий отдел, а также Особоуполномоченный НКВД СССР со своим аппаратом, Особое конструкторское бюро (ОКБ), Бюро по приёму и рассмотрению жалоб, Инспекция по котлонадзору, Секретариат НКВД СССР. К системе НКВД относились также Центральный совет спортивного общества «Динамо» и Центральный клуб сотрудников НКВД СССР [4].
Эта структура, которая должна была постоянно укомплектовываться квалифицированными и преданными делу партии кадрами, не оставалась неизменной, а периодически видоизменялась в соответствии с указаниями Сталина И.В. Так, только в 1939 году в её составе произошёл ряд существенных преобразований. В преддверии приближавшейся войны наиболее значительные изменения коснулись Главного управления пограничных и внутренних войск, которое было разделено на шесть главных управлений: Главное управление погранвойск (ГУПВ), Главное управление войск НКВД СССР по охране железнодорожных сооружений, Главное управление войск НКВД СССР по охране особо важных предприятий промышленности, Главное управление конвойных войск НКВД СССР, Главное управление военного снабжения (ГУВС) и Главное военно-строительное управление войск (ГВСУ) НКВД СССР. Затем были сформированы Мобилизационный отдел, Отдел железнодорожных и водных перевозок, Управление НКВД СССР по делам военнопленных и интернированных, а также произведён ещё ряд более мелких преобразований. В результате по состоянию на 1 января 1940 года в центральном аппарате НКВД СССР по штату числилось 32642 человека [4].
Интересно, что, хотя о войне в то время ходили ещё только неясные слухи, приказом НКВД СССР от 19 сентября 1939 года Управлению по военнопленным и интернированным (работу которого вскоре будет курировать Круглов С.Н.) предписывалось загодя создать восемь лагерей, среди которых Осташковский разместили на одном из островов озера Селигер, Юхновский организовали на станции Барыбино, Путивльский определили в Софроньевском монастыре и т. д. Начальная ёмкость каждого лагеря планировалась порядка 5–7 тысяч человек с последующим расширением до 10 тысяч человек.