За годы Гражданской войны Л. М. Каганович вырос до уровня регионального руководителя в Средней Азии. С апреля 1922 г. он работал в Москве под руководством Генерального секретаря ЦК РКП(б) И. В. Сталина, занимался распределением и назначением членов партии на ответственные посты в РСФСР и СССР. В 1924 г. Л. М. Каганович – секретарь ЦК РКП (б). В 30 с небольшим лет. С незаконченным начальным образованием. Сапожник по профессии.
В 1925 г. по рекомендации Сталина Кагановича избрали Генеральным секретарем ЦК КП(б) Украины. За три года он проявил себя не только в деле восстановления и развития промышленности Украины, но и яростной борьбой с украинским национализмом, конфликтными отношениями с местными руководителями – В. Я. Чубарем (председатель СНК Украины), Г. И. Петровским (председатель ВУЦИК), А. Я. Шумским (нарком просвещения Украины). Статьей «Сталин и партия» в декабре 1929 г. Л. М. Каганович принял личное участие в создании культа личности Сталина, который был главным режиссером этого процесса.
С начала 1930 г. Каганович – первый секретарь Московского областного, а также и городского комитетов партии, член Политбюро ЦК ВКП (б). Наряду с работой в Московской партийной организации Л. М. Каганович выполнял различные задания Сталина: чрезвычайными полномочиями форсировал коллективизацию на Украине, в Западной Сибири, во многих областях. Он заведовал сельскохозяйственным отделом ЦК ВКП (б), руководил организацией политотделов МТС и совхозов, чисткой колхозов от «подкулачников» и «саботажников». Занимался вопросами идеологии, культурной и внешней политики. Во время отъездов Сталина в отпуск к Черному морю Каганович оставался в Москве временным главой партийного руководства. Именно он был председателем Центральной комиссии по проверке партийных рядов, затем председателем Комиссии партийного контроля при ЦК ВКП (б). Многие авторы рассматривают чистку партии, начавшуюся в 1933 г., в качестве прелюдии к «ежовщине».
В мае 1935 г. в Москве была пущена первая линия метро, которая получила имя Л. М. Кагановича. В Москве реконструировали водопровод, построили новые мосты через Москву-реку, многие здания для государственных и иных учреждений; газовые и керосиновые фонари заменили электрическими. Работали свыше 20 проектных и планировочных мастерских. В 1935 г. был утвержден Генеральный план реконструкции Москвы. В 30-е годы большинство москвичей, скорее всего, радовались происходившим изменениям. Критикам приходилось помалкивать. Единицы, например архитектор, реставратор и историк П. Д. Барановский, стремились спасти от уничтожения старую Москву. Именно Л. М. Кагановича многие москвичи впоследствии стали считать виновником гибели многочисленных церквей, монастырей, памятников московской истории и старины. Московский период биографии Л. М. Кагановича отмечен орденом Ленина. Эту награду он получил одним из первых в стране.
С февраля 1935 г. Л. Каганович стал наркомом путей сообщения, еще через два года – наркомом тяжелой промышленности, а еще через два – наркомом топливной, затем нефтяной промышленности. Он был заместителем председателя СНК СССР, фактически вторым человеком в правительстве после Молотова. На всех высоких хозяйственных постах действовал напористо, энергично, применяя и пряник, и кнут. Впрочем, о пряниках вспоминают мало. Жесточайшая террористическая чистка, устроенная Л. М. Кагановичем в Метрострое, в НКПС, НКТП, на крупных промышленных предприятиях, позволяет считать его одним из «ударников» периода «ежовщины».
Во время Великой Отечественной войны Л. М. Каганович был наркомом путей сообщения. Он с другими наркомами перебазировался в Куйбышев. Железнодорожный транспорт справился с огромными перегрузками военного периода, возможно, и потому, что еще в 1935—1937 гг. Л. М. Каганович провел большую «воспитательную работу» среди железнодорожников. Незадолго до 50-летия «железному наркому» было присвоено звание Героя Социалистического Труда.