Заняв ключевую должность в Военном министерстве, Кейтель предпринял активные усилия по реорганизации управления вооруженными силами, преследуя цель объединить руководство всеми родами войск и видами вооруженных сил в единой структуре. Однако против этого резко выступили главнокомандующий сухопутными войсками Фрич, главнокомандующий ВМФ Редер и особенно главнокомандующий ВВС Г. Геринг, усмотревшие в затее Кейтеля ущемление своих прерогатив. Преодолеть их сопротивление Кейтелю не удалось, тем более что соответствующей поддержки от военного министра он не получил. Отношения Кейтеля с Бломбергом, несмотря на их давнее знакомство, оставались чисто служебными, даже после того, как они породнились (сын Кейтеля женился на дочери Бломберга). Беспрекословно повинуясь своему начальнику, Кейтель заслужил репутацию марионетки военного министра. Но, видимо, не все так просто было в их взаимоотношениях. После того как Бломберг в январе 1938 года попал в неприятную историю из-за женитьбы на бывшей проститутке, Кейтель и пальцем не пошевелил, чтобы хоть как-то защитить своего начальника и родственника. Более того, то ли по недомыслию, то ли преднамеренно (это до сих пор остается загадкой), он способствовал падению своего шефа. Когда в его распоряжении оказались компрометирующие материалы на жену Бломберга, поступившие из полиции, то он не нашел ничего лучшего, как передать их злейшему врагу фельдмаршала Г. Герингу, хотя вручивший ему досье на фрау Бломберг шеф берлинской полиции (он хотел передать его лично Бломбергу, но того на месте не оказалось, и он обратился с этим деликатным вопросом к заместителю министра Кейтелю, надеясь, что тот передаст досье по назначению), заметив колебания Кейтеля, весьма прозрачно намекнул ему на возможность уничтожения компромата. Получив досье, Геринг воспользовался им, чтобы свалить военного министра, на чье место он уже давно претендовал. Когда Гитлер прощался с уволенным в отставку фельдмаршалом Бломбергом, то спросил его — кто мог бы после него возглавить вооруженные силы. Тот затруднился с ответом. Тогда фюрер поинтересовался — кто был у него заместителем. «Кейтель, — последовал ответ, — но о том, чтобы его использовать, не может быть и речи, поскольку он всего лишь тот, кто управляет моей канцелярией». «Вот такой человек мне и нужен!» — радостно воскликнул Гитлер и в тот же день (27 января 1938 года) подписал приказ о назначении Кейтеля на вновь учреждаемый пост начальника штаба верховного главнокомандования вооруженными силами — Oberkommando der Wermacht (ОКВ). 4 февраля 1938 года была произведена реорганизация руководства вооруженными силами (вермахтом). Пост верховного главнокомандующего занял сам Гитлер. При нем создавался рабочий орган — ОКВ, возглавляемый Кейтелем. Однако ОКВ, как показало дальнейшее развитие событий, так никогда и не стал верховным руководящим органом вооруженных сил, а превратился в типичную военную канцелярию Гитлера. Кейтель довольно быстро смирился с этим и никогда не претендовал на большее, хотя иногда поначалу и пытался показать характер. Так, когда через неделю после отставки Бломберга настал черед главнокомандующего сухопутными войсками Фрича и Гитлер хотел назначить на его место генерала Рейхенау, то Кейтель решительно выступил против этого. Возглавив вместе с генералом Г. фон Рундштедтом генеральскую оппозицию, он добился назначения на этот пост своего ставленника генерала В. фон Браухича. Затем он расставил своих выдвиженцев и на ряд других важных должностей. Так, в частности, его брат полковник Б. Кейтель занял пост начальника управления кадров сухопутных войск (ОКХ) и вскоре стал генералом; майор Р. Шмундт стал личным военным адъютантом Гитлера и т. д. Сам Кейтель в 1938 году получил чин генерал-полковника.
Кейтель попытался создать подлинное верховное командование, которому бы подчинялись все виды вооруженных сил, но вновь натолкнулся на упорное сопротивление Геринга и Редера, которые заявили, что будут принимать и исполнять только те приказы, которые исходят лично от фюрера. А Геринг так открытым текстом и заявил Кейтелю, что ему все равно, кто подписывает приказ от имени фюрера — генерал-полковник или ефрейтор, для него имеет значение только личная подпись Гитлера, а на все остальное он «плевал».