Действия подобного рода едва ли были в натуре Гиммлера. Во всяком случае, решение о роспуске католического консервативного правительства в Мюнхене осуществили 8 марта боевики СА под командованием фон Эппа, друга Рема, в то время как Гиммлер, полицей-президент Баварии, оставался в стороне. В том же месяце Геринг создал в Пруссии первый концентрационный лагерь под руководством Дильса, а в апреле предоставил своей политической полиции штаб-квартиру на Принц-Альбрехтштрассе в Берлине. В январе новое полицейское формирование получило официальное название Тайной государственной полиции (Geheime Staatspolizei), или, сокращенно, гестапо. Создание гестапо было первым решительным шагом нацистской власти в сторону усиления государственного полицейского контроля и, одновременно, явилось серьезным предупреждением Гиммлеру, чьи полномочия все еще ограничивались Баварией.
Гиммлер, однако, не спешил, предпочитая двигаться к цели своим собственным, пусть не самым прямым путем, и с апреля 1933-го по апрель 1934 года принял несколько важных решений. Назначив Гейдриха главой баварской тайной полиции и управления СД в составе СС, Гиммлер организовал собственный «образцовый» концентрационный лагерь в Дахау. Этот лагерь находился под его полным контролем и существовал параллельно множеству других, создававшихся полуофициально и неофициально не только Герингом, но и мелкими чинами СС, СА и даже нацистскими гауляйтерами, управлявшими гау (Gaue), или регионами, на которые разделила Германию нацистская администрация. На процессе в Нюрнберге Геринг утверждал, будто закрывал эти несанкционированные лагеря, где, по его мнению, практиковалось жестокое обращение с заключенными.
Лагерь, основанный СС возле Оснабрюка, привел к серьезным трениям между Гиммлером и Герингом. Возглавляемые Дильсом следователи гестапо заявили, что, отправившись в Оснабрюк для выяснения принадлежности и обстоятельств возникновения лагеря, они якобы были обстреляны охраной СС. Разразился громкий скандал, и Гиммлер, повинуясь прямому указанию Гитлера, был вынужден закрыть лагерь. Вмешательство Геринга объяснялось главным образом его честолюбивым стремлением стать главным координатором полицейской деятельности в Германии. То, что ему это не удалось, объяснялось умелой политикой Гиммлера, старательно укреплявшего свой личный авторитет и влияние, а также противодействием Рема, который со своей стороны мечтал объединить силы СА с регулярной армией и возглавить их, хотя с подобным не стали бы мириться ни Геринг, ни тем более Гитлер.
Для управления лагерем в Дахау Гиммлер создал добровольное подразделение эсэсовцев, желавших нести долгосрочную службу по лагерной охране. Это подразделение получило название «Мертвая голова» (Totenkopf) и специальную эмблему в виде черепа и скрещенных костей; во главе этого и других подразделений «Мертвой головы» Гиммлер поставил Теодора Эйке – бывшего армейского офицера, ветерана Первой мировой войны, который был одним из самых верных сторонников Гиммлера во всем, что касалось расовых вопросов. В числе охранников лагеря в Дахау были также австриец Адольф Эйхман и, в 1934 году, Рудольф Хёсс, позднее руководивший уничтожением евреев в Освенциме.
Хёсс, который, подобно Геббельсу и Гейдриху, одно время намеревался стать католическим священником, в Первую мировую войну был солдатом, а затем присоединился к фрайкору>14. За участие в громком политическом убийстве он был осужден и провел шесть лет за решеткой, а освободившись – вступил в члены нацистской партии и в СС. После краха гитлеризма – находясь в тюрьме, в одиночном заключении, – этот незаурядный, хотя и склонный к некоторому морализаторству человек написал мемуары, в которых подробно остановился на своих отношениях с Гиммлером. Изначально Хёсс принадлежал к стоявшей на позициях крайнего идеализма и национализма молодежной группировке «Артаманен», члены которой придавали огромное значение земледелию и стремились избегать городской жизни. По словам Хёсса, именно через эту организацию он познакомился с Гиммлером, который в июне 1934 года – во время смотра сил СС в Штеттине – предложил Хёссу работать в Дахау, где в декабре ему присвоили звание ефрейтора охранного подразделения «Мертвая голова».