Однако, следуя своему курсу на построение русского социализма, Сталин собирает вокруг себя единомышленников, таких как Дзержинский, Молотов и Куйбышев. По настоянию Сталина Президиум ЦИК СССР назначает Дзержинского председателем комиссии по организации похорон Ленина, что резко поднимает статус Дзержинского в иерархии власти. Уже в феврале 1924 года Феликс Эдмундович становится во главе Высшего совета народного хозяйства (ВСНХ) СССР и начинает подготовку к индустриализации страны, в качестве основного звена которой были выбраны инвестиционные отрасли, такие как металлургия и машиностроение, на основе централизации управления экономикой и концентрации государственного капитала в едином промышленном бюджете. По инициативе Дзержинского вместо Главметалла ВСНХ была создана комиссия МеталлЧК, которую он же и возглавил.

В конце апреля 1925 года в Москве XIV партийная конференция одобрила выдвинутую Сталиным ещё в декабре 1924 года теорию построения социализма в одной стране. В резолюции «О задачах Коминтерна и РКП(б) в связи с расширенным Пленумом ИККИ» резкой критике был подвергнут тезис Лейбы Троцкого о невозможности построения «полного социалистического общества в такой отсталой стране, как Россия, без “государственной помощи” более развитых в технико-экономическом отношении стран». Против Сталина выступил председатель Исполкома Коминтерна и Ленсовета Зиновьев (настоящее имя Евсей-Гершен Ааронович Радомысльский), поддержанный председателем Исполкома Моссовета Каменевым (Лев Розенфельд) и ленинградской делегацией. Сложившийся оппозиционный блок получил название «Новой оппозиции». В апреле 1926 года к «Новой оппозиции» присоединяется и сам Троцкий (Лейба Бронштейн), в результате чего сложилась так называемая «Объединённая оппозиция».

20 июля 1926 года на пленуме ЦК ВКП(б), посвящённом состоянию экономики СССР, Дзержинский подверг резкой критике Пятакова, которого он назвал «самым крупным дезорганизатором промышленности», и Каменева, которого обвинил в том, что тот не работает, а занимается политиканством. Как пишет в своих воспоминаниях Анастас Иванович Микоян, «выступление Дзержинского было резким, острым… Речь его прерывалась частыми репликами со стороны оппозиции – Пятакова, Каменева, Троцкого. Дзержинский доказал, что все те доводы, которые приводила оппозиция, основаны не на фактических данных, а на желании во что бы то ни стало помешать той работе, которую ведут Пленум и Политбюро». Каменев в своем заключительном слове снова допустил грубые нападки на Дзержинского, который «почувствовал себя плохо и, не дождавшись конца заседания, вынужден был с нашей помощью перебраться в соседнюю комнату, где лежал некоторое время. Вызвали врачей. Часа через полтора ему стало получше, и он пошел домой. А через час после этого его не стало». Заседание было прервано, работа пленума приостановлена. В начавшейся суматохе кто-то быстро убрал стакан с водой, из которого во время выступления пил Дзержинский. Так что никаких следов не осталось.

Но основную схватку за власть и влияние Троцкий проиграл. В 1927 году его, Каменева и Зиновьева исключают из партии. В 1929 году Троцкого высылают из страны, а его связника Блюмкина расстреливают. Именно с этого момента Троцкий и его сторонники переходят к тактике террора путем организации заговоров и покушений – таких как убийство Кирова 1 декабря 1934 года и подготовка покушения на Сталина в 1935 году («Кремлёвское дело»). В этих и других случаях за спиной исполнителей терактов стояли Троцкий, Каменев и Зиновьев.

Однако на тот момент ни в ОГПУ, ни в руководстве Коминтерна, решения которого были обязательны для ВКП(б), ни в его разведке – Отделе международной связи Коминтерна – сторонников Сталина, да и русских вообще практически не было. В РККА также в значительной степени сохранялся авторитет Троцкого, который в 1918–1925 годах был председателем Реввоенсовета и наркомом по военным делам (сначала РСФСР, затем – СССР). Говоря нынешним языком, у Сталина не было достаточной поддержки со стороны силовиков.