С декабря 1929 года по ноябрь 1930 года, в самый разгар раскулачивания, Ежов – заместитель наркома земледелия. В это время сотни тысяч крестьянских семей выселялись из родных мест. Сотни и тысячи крестьян, с оружием в руках защищавшие свою землю, объявлялись бандитами и расстреливались без суда и следствия. Николай Иванович получает хороший опыт, который крепко пригодится ему на посту главы НКВД. Видно, Ежов проявил себя ревностным исполнителем, ибо после Наркомата земледелия Сталин сразу же сделал его заведующим Распределительным отделом ЦК, через который проходили все ответственные назначения. В 33-м году Николая Ивановича ввели в Центральную комиссию по чистке партии. На XVII партсъезде в январе 1934 года Николай Иванович стал членом секретариата и председателем мандатной комиссии съезда. Его ввели в состав ЦК и по рекомендации Кагановича сделали заместителем председателя Комиссии партийного контроля (КПК), а также членом Оргбюро. В марте Ежову было поручено руководить также Промышленным отделом ЦК. В декабре он стал еще и председателем Комиссии по командировкам за границу. Николай Иванович также вошел в состав комиссий Политбюро, занимавшихся реорганизацией органов госбезопасности в связи с преобразованием ОГПУ в НКВД, что и произошло 10 июля 1934 года[43]. Все эти назначения не могли состояться без ведома и согласия Сталина. По всей вероятности, Сталин уже тогда планировал Николая Ивановича на роль главного исполнителя Большого террора, которого в дальнейшем следовало принести в жертву, сделав козлом отпущения. Вероятно, Сталин безошибочно распознал в Ежове задатки палача.
Окружающим Ежов в те годы вовсе не казался чудовищем. Надежда Яковлевна Мандельштам описала в мемуарах, как они вместе с Осипом Эмильевичем встретились с Ежовым на Кавказе: «Тот Ежов, с которым мы были в тридцатом году в Сухуме на правительственной даче, удивительно похож на Ежова портретов и фотографий 37-го, и особенно разительно это сходство на фото, где Сталин ему, сияющему, протягивает для пожатия руку и поздравляет с правительственной наградой[44]. Сухумский Ежов как будто тоже хромал, и мне помнится, как Подвойский (Николай Ильич Подвойский, член РСДРП с 1901 года, сотрудник Истпарта, с 1935 года персональный пенсионер, репрессий счастливо избежал. – Б.С.), любивший морализировать на тему, что такое истинный большевик, ставил мне, лентяйке и бездельнице, в пример «нашего Ежова, который отплясывал русскую, несмотря на больную ногу и даже назло ей… Но Ежовых много, и мне не верится, что нам довелось видеть легендарного наркома на заре его короткой, но ослепительной карьеры. Нельзя же себе представить, что сидел за столом, ел и пил, перебрасывался случайными фразами и глядел на человека, продемонстрировавшего такую волю к убийству, развенчавшего не в теории, а на практике все посылки гуманизма.
Сухумский Ежов был скромным и довольно приятным человеком. Он ещё не свыкся с машиной, и потому не считал её своей исключительной привилегией, на которую не смеет претендовать обыкновенный человек. Мы иногда просили, чтобы он нас довёз до города, и он никогда не отказывал… Дети отдыхающих работников ЦК отгоняли чумазую ребятню – детей служащих – от машин, которые принадлежали им по праву рождения от ответственных работников, и важно в них рассаживались. О.М. как-то показал Тоне, жене Ежова (речь идёт о первой жене – Антонине Титовой. – Б.С.), и другой цекистской даме на сцену изгнания чумазых. Женщины приказали детям потесниться и пустить чумазых посидеть в машине. Они очень огорчились, что дети нарушают демократические традиции их отцов…