О деятельности Гиммлера именно в качестве заместителя рейхсфюрера СС известно не очень много. Однако из документов следует, что он с самого начала предпочел не довольствоваться заданием по использованию СС для охраны мероприятий, а всячески изменить внутреннюю структуру СС. Сразу же после вступления в новую должность Генрих Гиммлер разослал по СС свой «приказ № 1», в котором обязывал все «охранные отряды» вовремя платить членские взносы, а также регулярно сообщать ему обо всем происходившем в партии, а также о деятельности противников, «обращая особое внимание на масонов и еврейских руководителей». В очередной раз Гиммлер предпринимал попытку создать подобие «разведывательной службы», что в свое время ему не удалось сделать внутри сугубо партийных структур. В дальнейшем Гиммлер стал редактировать выходивший еженедельно печатный вестник, который назывался «СС-служба». С его страниц он призывал служащих СС держаться особняком во время всех внутрипартийных дискуссий и споров, не принимать участия в сомнительных мероприятиях. Кроме этого Гиммлер стал настаивать на введении для СС единообразной униформы. Когда он присутствовал на партийном съезде 1927 года, ему бросилось в глаза, что большинство эсэсовцев самостоятельно подбирали себе черные галифе, черные кепи, а «мертвые головы» были самых разных образцов.
В январе 1929 года Гитлер решил освободить Хайдена от должности рейхсфюрера СС. Его преемником стал Генрих Гиммлер. До настоящего времени точно неизвестно, почему было решено убрать Хайдена (официальная версия — «по семейным обстоятельствам»), а на его место поставить Генриха Гиммлера. В любом случае даже в этих условиях Гиммлер продолжал числиться заместителем имперского руководителя пропаганды. Должность рейхсфюрера СС он занимал, так сказать, по совместительству. Не менее сложно сказать, какова была реальная численность «охранных отрядов», когда Гиммлер стал рейхсфюрером СС. Опираться на сведения, которые годами позже давал сам Гиммлер, нельзя — они очень сильно колеблются. В разное время он говорил о 260, 280, 290 и 300 членах СС. В издаваемых «Направляющих тетрадях СС» (своего рода журнал, предназначенный для мировоззренческого воспитания) он говорил о 270 членах. Не исключено, что Гиммлер сознательно занижал численность СС, чтобы выставить себя в более выгодном свете. Мол, именно при нем численность «охранных отрядов» стала стремительно расти. В любом случае в полицейском отчете, который датирован 23 мая 1929 года, говорилось о 1402 эсэсовцах. Во внутреннем циркуляре руководства СА от 4 мая 1929 года сообщалось, что в СС и «примыкающих к ним структурах» состоит 748 человек, которые были организованы по принципу «десяток». Маловероятно, что Генриху Гиммлеру удалось за несколько месяцев в несколько раз увеличить численность организации. Версия о заниженной численности кажется оправданной, если принимать во внимание, что первые мероприятия нового рейхсфюрера СС были направлены отнюдь не на увеличение численности СС, а на сплочение организации.
Съезд Национал-социалистической партии, который традиционно происходил в Нюрнберге, стал для рейхсфюрера СС Генриха Гиммлера первым серьезным испытанием. Несмотря на то что съезд проходил в августе, уже 6 июля Гиммлер разослал приказ — каждый служащий СС должен был принять участие в этом мероприятии. Во время апогея партийного съезда эсэсовцы должны были пройти перед Гитлером стройной колонной. Гиммлер не хотел полагаться на волю случая, а потому заранее решил отработать все мельчайшие детали. Он лично решил отвечать за то, чтобы каждый из членов «охранных отрядов» взял с собой щетки для сапог и для униформы. Перед парадом он рекомендовал своим подопечным выспаться и на всякий случай временно ввел в СС «сухой закон», хотя во время партийного съезда и без того не продавались спиртные напитки. В Нюрнберг эсэсовцы должны были прибывать по четкому расписанию. Гиммлер пытался регламентировать буквально все, включая продукты, которые эсэсовцам разрешалось есть во время пути. Эсэсовский марш произвел ожидаемое впечатление. Эффект от этого действа усилился, так как он был совмещен с вручением СС знамен, которые тогда предназначались для первых десяти эсэсовских штурмов (формирование, приблизительно равное роте). После окончания съезда эсэсовцы промаршировали по Нюрнбергу колонной, во главе которой шел Генрих Гиммлер.
Вскоре выяснилось, что у нового рейхсфюрера СС фактически не оставалось времени на ведение агитационной работы. Он почти не появлялся в имперском руководстве пропаганды. Тем временем в 1929 году Гитлер предложил возглавить это партийное ведомство Йозефу Геббельсу. Он должен был сменить на посту имперского руководителя пропаганды Грегора Штрассера. К тому времени Геббельс, являвшийся гауляйтером Берлина, выработал специфический, но вместе с тем весьма эффективный стиль пропаганды. Однако Геббельс опасался интриг Отто Штрассера (брат Грегора Штрассера — один из лидеров «левого крыла»), В адрес Геббельса уже не раз летели обвинения, что он продался «мюнхенским толстосумам». Однако желание занять столь высокий пост взяло верх. В данном случае Геббельс решил посоветоваться с потенциальным подчиненным, а именно Генрихом Гиммлером, которого пока никто не выводил из состава имперского руководства пропаганды. Темой обсуждения было возможное низложение Грегора Штрассера и взаимное сотрудничество. После беседы Геббельс на страницах своего дневника дал вполне положительную характеристику Гиммлеру. «Я заложил основы нашего будущего сотрудничества с ним в области пропаганды. Небольшой худой мужчина. Добродушный, даже, наверное, колеблющийся». В течение последующих месяцев Гиммлер информировал Геббельса о всевозможных курьезах в работе «мюнхенского руководства». В марте 1930 года Гиммлеру удалось все-таки уговорить Геббельса возглавить имперское руководство пропаганды. Геббельс же ожидал официального приглашения из Мюнхена.
В партийную столицу «малютка-доктор» (так за глаза многие звали Геббельса) решился приехать в апреле 1930 года. С этого момента пропагандистское руководство делилось на два управления. 1-м управлением была школа ораторского искусства Фрица Рейнхарда. 2-е отделение подчинялось непосредственно Йозефу Геббельсу. Тот записал в дневнике:
«Вечером состоялось совещание с моим новым секретарем Гиммлером. Мы очень быстро сошлись. Он не особо умен, но весьма усерден». Однако на притирку двум партийным функционерам фактически не оставалось времени. Приближался сентябрь 1930 года, когда должны были состояться очередные выборы в рейхстаг. Их сотрудничество продлилось недолго. К концу июля 1930 года Геббельсу стало ясно, что ему надо искать нового заместителя. В итоге сенсационный прорыв НСДАП на политическом ландшафте Германии формально произошел без участия Гиммлера. На выборах в рейхстаг национал-социалисты получили 18,3 %. Впрочем, у всех минусов были свои плюсы. Гиммлер смог выйти из тени своего начальства, где он пребывал долгие годы. Именно с этого времени он становится заметной политической фигурой. Несмотря на то что Гиммлер почти 15 лет кряду (1930–1945) являлся депутатом рейхстага, он ни разу не выступал там. Однако наличие депутатского мандата позволило ему беспрепятственно ездить по всей стране. Кроме этого Гиммлер смог избавиться от финансовых трудностей, которые беспокоили его уже не один год. Он решил сконцентрироваться исключительно на своем новом поручении. С этого момента он был рейхсфюрером СС, и только рейхсфюрером СС.
