В 1933 году у Бломберга возник конфликт с СА, когда глава штурмовиков Э. Рем потребовал от военного министра создания под его, Рема, командованием так называемой «народной армии». Возглавляемый Бломбергом германский генералитет решительно выступил против этого. Глава правительства Гитлер занял выжидательную позицию. 11 апреля 1934 года на борту крейсера «Германия» состоялась встреча Гитлера с командованием вооруженных сил, на которой было достигнуто соглашение: вооруженные силы выступают в поддержку кандидатуры Гитлера на пост президента Германии в случае смерти престарелого и больного Гинденбурга, а Гитлер гарантирует вооруженным силам особые права, не вмешивается в их внутренние дела и пресекает попытки СА создать параллельную вооруженным силам военную организацию. Однако Гитлер медлил с выполнением своих обязательств в отношении СА, действия которых становились все более вызывающими. Тогда руководство армии во главе с Бломбергом, заручившись поддержкой президента, под угрозой военного переворота и отстранения нацистского правительства от власти заставило его выполнить свое обещание.
30 июня 1934 года под личным руководством Гитлера произошла расправа над штурмовиками («Ночь длинных ножей»), в результате которой вся верхушка СА во главе с Ремом была уничтожена. Всего в ходе этой акции погибли свыше 400 человек. Среди убитых оказались и 2 генерала — К. фон Шлейхер и его ближайший сподвижник К. фон Бредов. Не все из тех, с кем расправились в ту ночь, были штурмовиками. Под шумок нацисты свели счеты со своими старыми политическими противниками и просто с людьми, не угодными Гитлеру, только потому, что они слишком много знали. Бломберг от имени вооруженных сил публично одобрил действия Гитлера. Позаботился он также и о том, чтобы с аналогичным приветствием выступил уже лежавший на смертном одре президент Гинденбург. 2 августа 1934 года Гинденбург скончался. Через 3 дня Бломберг подписал соглашение, заключенное с Гитлером еще 11 апреля, в соответствии с которым последний совмещал посты канцлера и президента, а Бломберг становился его помощником по военным вопросам. После этого Бломберг сразу же организовал принесение армией присяги на верность лично Гитлеру как «фюреру германского народа».
Исполняя волю германских милитаристов, Бломберг, влияние которого после событий 1934 года резко возросло, без промедления приступил к реорганизации германской армии. Рейхсвер был преобразован в вооруженные силы Германии (вермахт), состоящие из 3 видов — сухопутная армия, ВВС и ВМФ. 16 марта 1935 года в Германии вводится всеобщая воинская повинность. В мае 1935 года Бломберг назначается главнокомандующим вермахтом. Военное управление переименовывается в Генеральный штаб. 18 октября 1935 года была торжественно открыта Военная академия, упраздненная в 1920 году по условиям Версальского мира. Еще в октябре 1934 года Гитлер приказал Бломбергу увеличить численность рейхсвера со 100 тыс. человек (этот потолок был установлен Версальским миром) до 300 тыс. человек. Соответственно, количество дивизий в его составе возросло с 10 (7 пехотных и 3 кавалерийских) до 21, а к весне 1936 года — до 36 дивизий. Число военных округов возросло с 7 до 10, а в 1937 году — до 13, каждый в составе армейского корпуса (командир корпуса одновременно являлся и командующим военным округом). Кроме того, были сформированы 3 корпуса, не имевшие территориального подчинения (14-й, 15-й и 16-й ак), в состав которых входили все легкие, моторизованные и танковые дивизии. Вместо двух армейских групп (штабы в Берлине и Касселе) были созданы 3-я (Дрезден), а затем и 4-я (Лейпциг) армейские группы. В состав последней вошли все подвижные войска вермахта (14-й, 15-й и 16-й ак).
Бломберг правильно предвидел характер будущей войны. Предметом особой его заботы являлось создание танковых войск, которое началось с осени 1935 года. Большое внимание он также уделял подготовке командных кадров, оказывал всемерное содействие созданию ВВС (люфтваффе). Развертывание крупных вооруженных сил способствовало быстрому продвижению кадровых офицеров по службе, которое в рейхсвере было очень медленным. Поэтому офицерский корпус, ранее не особенно замеченный в своей основной массе в симпатиях к нацизму, теперь стал горячим сторонником нового режима. Но параллельно с этими одобряемыми армией мероприятиями Бломберг в угоду нацистам настойчиво проводил и другие, вызывающие у его многих подчиненных недоумение, а то и осуждение. Так, в 1935 году он издал приказ, обязывавший начальников и командиров всех степеней выявлять и ставить на учет в гестапо политически неблагонадежных военнослужащих. В том же году вышел его секретный приказ, обязывавший офицеров принять нацистское мировоззрение. Теперь на повышение в чине могли рассчитывать лишь те, кто открыто одобрял и активно поддерживал национал-социализм.
