Поиском «врагов народа» активно занимались в бытность Л.З. Мехлиса начальником ПУРККА и в политуправлениях военных округов. Начальники политуправлений Закавказского, Сибирского, Поволжского, Северо-Кавказского, Среднеазиатского, Киевского особого военных округов были объявлены кто «матерым шпионом», кто «троцкистом», кто участником «военно-фашистского заговора» и репрессированы. Параллельно осуществлялась «чистка» аппарата и политсостава в главных и центральных управлениях наркомата обороны, военно-учебных заведениях.
Одним из первых документов, подписанных Л.З. Мехлисом на новой должности, была директива от 14 января 1938 г. об участниках так называемой «антипартийной армейской белорусско-толмачевской группировки». До этого она называлась «внутриармейской оппозицией 1928 года». Приоритет введения в оборот этого термина принадлежал занимавшему в 1924–1929 гг. пост начальника ПУРККА А.С. Бубнову (1884–1940) и относился к политсоставу Белорусского военного округа и коммунистам Военно-политической академии им. Н.Г. Толмачева, которые предложили меры по расширению демократических начал в военном строительстве. Участников «антипартийной армейской белорусско-толмачевской группировки» стали обвинять в антисоветской деятельности, измене Родине, за что они были подвергнуты репрессиям. Л.З. Мехлис обязал начальников политуправлений округов, флотов, армий, военных комиссаров и начальников политотделов соединений, военных академий и училищ выявить всех принадлежавших к «группировке» и внести соответствующие записи в их учетные карточки коммунистов, о чем следовало также доложить в обязательном порядке.
Не остановившись на этом, Мехлис принялся за разоблачение новых «вредителей» в Красной Армии. На Всеармейском совещании армейских политработников в апреле 1938 г. он призвал к очередной кампании по «искоренению врагов народа» в РККА. К тому времени уже было арестовано 1100 чел., составлявших политсостав Красной Армии. Но это количество (5 % от всего политсостава Красной Армии) показалось Мехлису не столь уж значительным: «врагов народа» продолжали с еще большим размахом искоренять в Приволжском, Северо-Кавказском, Среднеазиатском и в других военных округах.
В соответствии с директивой Л.З. Мехлиса от 26 мая 1938 г. в учебные планы военных и военно-политических училищ, курсов, военных академий, дивизионных партийных и комсомольских школ, окружных домов партийного образования вводился специальный курс «О методах борьбы со шпионско-вредительской, диверсионной и террористической деятельностью разведок капиталистических стран и их троцкистско-бухаринской агентуры». Каждый судебный процесс, согласно указаниям начальника ПУРККА, предварялся шумной пропагандистской кампанией в армейской печати.
Итог деятельности Л.З. Мехлиса по «выкорчевыванию» «врагов народа» – 3,2 тыс. чел. уволенных из армии политработников только в 1938 г.
Как уже отмечалось, в мае 1937 г. в Красной Армии был введен институт военных комиссаров. Они назначались наркомом обороны СССР по представлению ПУРККА для политического руководства и непосредственного проведения партийно-политической работы в войсковых частях, соединениях, учебных заведениях, учреждениях и управлениях РККА. Наряду с командирами и начальниками военные комиссары несли полную ответственность за воспитательную работу, за политико-моральное состояние, мобилизационную готовность личного состава. В области партийно-политической работы на военных комиссаров возлагалась обязанность по руководству политорганами, партийными и комсомольскими организациями частей и соединений. Они отвечали за организацию и проведение необходимых партийно-политических мероприятий, за агитационно-пропагандистскую и культурно-просветительную деятельность. Комиссары были обязаны систематически информировать командование частей и подразделений, вышестоящие политорганы о политико-моральном состоянии частей и о мерах по устранению «отрицательных явлений». Вместе с командирами и начальниками они аттестовали командно-начальствующий состав, для чего ими представлялись соответствующие политические характеристики.