Гиммлер почти не жил дома; казалось, что у него не было личной жизни: все его существование полностью проходило в рамках СС и гестапо. Было похоже, что он существовал только ради этих двух чудовищных детищ. Тайная боль скрывалась за его спокойной внешностью. Гиммлеру не везло в семейной жизни. Он женился на медсестре Марге Куцерцевой, уроженке Бромберга, которая была старше его на семь лет. Она работала в одной крупной берлинской клинике в период, когда разложение столичного общества достигло крайних пределов. Ей пришлось наблюдать столько подпольных операций, столько воровства и спекуляций, что она прониклась глубокой неприязнью к врачам. Но она возлагала большие надежды на лечение травами и эту веру передала своему мужу. На деньги своей жены Гиммлер обзавелся фермой по разведению кур в местечке Трудеринг близ Мюнхена. Дело не пошло, и по совету жены он занялся выращиванием лекарственных трав. Со всей страстью он окунулся в изучение средневековых трактатов о лекарственных травах, но коммерческого успеха не добился. Этот факт не отбил его страсти к целебным травам; позднее он заставил выращивать их узников концлагерей.
Возможно, эти неудачи стали причиной разногласий между супругами. Жена презирала Гиммлера. Даже рождение дочери Гудрун в 1928 году ничего не поправило. По словам доктора Гебхардта, Гиммлер страдал частичным половым бессилием и «никогда не мог превозмочь этого внутреннего конфликта». Он всегда был против развода – из-за дочери, как он говорил, хотя, несомненно, причиной было строгое религиозное воспитание, полученное в детстве.
Позднее он познакомился с другой женщиной и жил с ней. У них было двое детей, мальчик и девочка, воспитанных кормилицей в Хохенлихене, где они появились на свет.
Эта двойная жизнь часто создавала для Гиммлера финансовые трудности и заставляла его делать долги. Он был, пожалуй, единственным из высших нацистских руководителей, чьи полномочия не обогатили его, несмотря на его могущество и возможность взяточничества, которое процветало в партийном аппарате. Он презирал Геринга, который во время войны пустился в разные махинации, пользуясь своим высоким положением в управлении делами государства и партии.
Гиммлер не был хорошо образован. Он был романтиком, придавшим своеобразную направленность созданным им службам, а следовательно, всей организации Третьего рейха. Он верил в магнетизм, месмеризм и гомеопатию, в сомнительную теорию евгеники, в ясновидцев, гипнотизеров и ведьм, которых ввел в свое окружение, и часто не отваживался принимать решение, не посоветовавшись с ними. Поначалу многие нацистские руководители разделяли его увлечения, посещая берлинский салон мага Хануссена, который предсказал поджог рейхстага.
Гиммлер глубоко уважал военную дисциплину. Как рассказывал Гебхардт, «он придавал почти истерическое толкование старому военному правилу: отданный приказ нужно выполнить тотчас». Он превратил это правило в абсолютную догму для своих служб, что сделать было несложно: простые люди Германии еще не успели перейти от рабского мышления к буржуазному и вошли в царство Третьего рейха подобно лунатикам. Его романтизм заставил его преклоняться перед германским императором Генрихом I Птицеловом (Генрихом Саксонским). Он восхищался организацией его рыцарства, благодаря которому этот монарх сумел основать новые города, прогнать датчан, разбить венгров, покорить славян и венедов. Повышенный интерес Гиммлера к расовым вопросам сыграл основную роль в организации СС. А церемония принесения присяги молодыми эсэсовцами происходила в полночь при свете факелов в кафедральном соборе Брюнсвика перед гробницей Генриха Птицелова.