В 1929 году Хорст Вессель становится членом нацистской партии и вступает в СА. Вместе с группой завзятых бандитов, набранных его стараниями среди друзей с берлинского дна, он сформировал штурмовой отряд («Штурм-5») СА. Ему удалось после нескольких кровавых стычек одержать верх в одном из пользующихся дурной славой кварталов Берлина, до того момента занятого коммунистами. Сие достижение принесло ему звание почетного члена 5, 6 и 7-го берлинских штурмовых отрядов.

Хорст Вессель, однажды развлекаясь, написал проникнутые духом национал-социализма слова на мотив старой морской песенки. Эта песня станет гимном нацистской партии под названием «Песня Хорста Весселя» после смерти автора, погибшего вечером 23 февраля 1930 года в стычке за «право обладания» девицей в одном из притонов Берлина.

После прихода фашистов к власти Хорст Вессель занял свое место в пантеоне нацистских преступников, а его мать и сестра стали почетными участниками пропагандистских собраний.

После этого берлинского периода жизни молодой Гиммлер решает вернуться в отчий дом. В начале 1921 года он снова появляется в Ландсхуте. Отец устраивает его на маленькой ферме, чтобы он смог применить там свой сельскохозяйственный талант в выращивании птицы. Он настоятельно рекомендовал сыну держаться подальше от всяких политических движений. В это время вся Бавария, особенно Мюнхен, буквально бурлила. Гиммлер уже примыкал к молодежному движению, выступавшему за «обновление германского крестьянства», под названием «Артаманс», девиз которого – «Кровь, земля, меч» – представлял собой упрощенную формулу, впоследствии положенную в основу всех принципов СС.

Несмотря на отцовские советы, Гиммлер заинтересовался движениями, требовавшими покончить с веймарским режимом и с «ноябрьскими преступниками», виновными в позорном перемирии. Он примкнул к организации «Знамя империи», одним из руководителей которой был капитан Рем. В начале октября 1923 года в этом движении произошел раскол. Большая его часть последовала за капитаном Хейссом, а группа «ультра», симпатизирующая НСДАП, покинула ряды организации. Гиммлер был одним из 300 экстремистов, которые под руководством капитанов Рема и Зайделя образовали группу диссидентов «Военное знамя империи». Это движение, состоявшее из «непреклонных», приняло участие в путче 9 ноября. Гиммлер находился в головной группе во время знаменитого «марша», закончившегося плачевным образом перед Фельдернхалле. Но ему повезло, и он выбрался из перестрелки без единой царапины.

В период замедления деятельности НСДАП, последовавшего за провалом путча, он продолжал активно работать в различных группах, прикрывавших деятельность нацистов; некоторое время он был секретарем у Грегора Штрассера, занимавшего пост, который унаследовал от него в 1925 году Геббельс.

В конце декабря 1924 года он узнает о возвращении Гитлера в Мюнхен после освобождения из Ландсбергской тюрьмы. 5 февраля 1925 года Гиммлер написал ему письмо, чтобы рассказать, как надеются на него патриоты в их стремлении помочь Германии выйти из хаоса и занять место, которого она заслуживает. Тронутый этим письмом Гитлер, чьи сторонники за время его отсутствия разбрелись кто куда, ответил своему молодому поклоннику и пригласил его к себе. 12 марта Гиммлер постучал в дверь квартиры госпожи Райхтер на Тирштрассе, 41, которую она сдавала фюреру. Гиммлеру был вручен партийный билет № 1345. Гитлер решил тогда все начать сначала, но чтобы пустить пыль в глаза новичкам, нумерацию билетов начал с 500.

Гитлер был обрадован уважительными манерами и дисциплинированностью молодого человека: перед ним Гиммлер приобрел смиренное поведение, которое ему прививал отец. Он с благоговением ловил каждое слово Гитлера, который, как только перед ним оказывались какие-то слушатели, невольно впадал в политическое ораторство. По своему темпераменту Гиммлер был буквально предназначен на роль блестящего второго, верного и необходимого служителя. Амбиции толкали его вперед, однако его склонность к скрытности заставляла выбирать вторые роли. В отличие от многих нацистов, особенно из числа ветеранов, которые постоянно искали возможность устранить Гитлера, Гиммлер никогда не предпринимал попыток перехватить власть в свои руки. Как сказал о нем доктор Гебхардт, один из врачей-нацистов, знавший Гиммлера лучше всех, потому что они были знакомы с детских лет: он был «типичным вторым человеком, который брал на себя выполнение самых отвратительных и жестоких приказов по аналогии с высказыванием: Магомет улыбается, а калиф казнит».