В ответ на просьбу Гиммлера Гитлер разрешил переехать из Мюнхена в Берлин лишь управлению СД. Так в столицу перебрался широко известный впоследствии Рейнхард Гейдрих, как раз это управление и возглавлявший.

Геринг, впрочем, не сдавался, издав 30 ноября 1933 года распоряжение, согласно которому гестапо становилось самостоятельной организацией в рамках Пруссии и не могла быть подчинена центральным полицейским чинам Германии. Это шло вразрез с планами как Гиммлера, так и главы общегосударственного МВД Вильгельма Фрика, решившими объединить свои усилия в борьбе против прусского премьера.

На сепаратизм Пруссии неодобрительно смотрел и сам Гитлер, не желавший, однако, открыто выступать против Геринга. Поэтому он дал добро Гиммлеру и Фрику на централизацию. В результате, к январю 1934 года Гиммлер контролирует политическую полицию во всех землях, за исключением Пруссии и Шаумберг-Липпе.

Борьба продолжалась, Геринг нанес новый удар. Премьер-министр Пруссии издал декрет, по которому сосредоточил всю полноту полицейских функций у себя в руках, предоставив себе право командования всеми видами прусской земельной полиции (включая политическую). Впрочем, речь уже шла об арьергардных боях Геринга, понимавшего, что его позиции изо дня в день слабеют на фоне усилий Гиммлера и Фрика, поддерживаемых Гитлером. Прусский премьер пошел на мировую. В обмен на некоторые льготы для себя лично и для всего руководящего аппарата Пруссии в целом он передал контроль над земельной полицией в руки рейхминистерства внутренних дел.

Гестапо же перешло под контроль рейхсфюрера СС. Гиммлер стал главой и инспектором государственной тайной полиции, Гейдрих в качестве представителя фюрера возглавил ее администрацию. Таким образом, последний аккумулировал в своих руках руководство спецслужбами Германии – СД (партийную структуру) и гестапо (государственную структуру).

Сговорчивость Геринга объяснялась и ростом насилия со стороны штурмовиков, становившихся большой проблемой для всего государства и для него самого. С этим нужно было что-то делать, и делать это общими усилиями.

Еще весной 1933 года, на заре создания гестапо и начала противостояния с Гиммлером за контроль над прусской полицией, Геринг привлек СА к борьбе с политическими организациями. Выступая перед штурмовиками? он провозглашал: «Я не буду соблюдать справедливость и так называемую законность, мое дело – уничтожать и искоренять и более ничего! Борьбу против коммунизма нельзя вести только полицейскими средствами. И я буду опираться на коричневорубашечников!»

В результате по Пруссии прокатилась волна репрессий, которой испугался сам Геринг. Кроме собственно коммунистов и других инакомыслящих штурмовики преследовали как своих личных врагов, так, порой, и совершенно случайных людей. Особенно свирепствовали коричневорубашечники в самом Берлине. Стало ясно, что СА выходило из-под контроля, угрожая власти самого прусского премьер-министра.

Положение стало настолько серьезным, что открыто выступить против штурмовиков Геринга призывал уже сам шеф гестапо Диле. Однако положение СА было столь сильным как в стране в целом, так и в Пруссии в частности, что Геринг пойти на такой шаг не решался. Поэтому Диле, захватив с собой бойцов особого полицейского батальона, решил пресечь деятельность СА самостоятельно. Вооруженные пулеметами полицейские заняли здание берлинского городского управления, где располагались застенки штурмовиков. Там перед их глазами предстала крайне неприглядная картина: чтобы вырвать признание штурмовики запирали жертв в узких шкафах, где невозможно было даже сесть, на несколько дней без еды. Задержанные подвергались постоянным избиениям, часто с использованием железных прутьев, резиновых дубинок и кнутов. После очистки этого здания Диле принялся за другие бункеры штурмовиков. Некоторые члены СА в результате предстали перед судом. Борьба со штурмовыми отрядами принимала все более жесткие формы, причем шеф гестапо вел ее, фактически, в одиночку, без поддержки Геринга.