В октябре 1936 года Ширах заключил соглашение с рейхсфюрером СС Гиммлером, по которому члены Гитлерюгенда, отвечавшие нужным требованиям, рассматривались как главный источник пополнения СС. 11 августа 1939 года Гитлерюгенд по договоренности с Верховным командованием вермахта (ОКВ) обязался проводить допризывную подготовку молодежи в соответствии с требованиями, установленными в армии. Ширах готовил немецкую молодежь к войне и добился огромных успехов – до самого конца войны вчерашние и нынешние члены Гитлерюгенда не задумываясь шли умирать за фюрера, даже когда для руководителей Германии было ясно, что поражение неминуемо. Однако к середине 1939 года позиции Шираха пошатнулись – во-первых, он был уже староват для лидера молодежного движения (ему перевалило за тридцать), во-вторых, его интеллект, некоторый аристократизм и склонность к роскоши вызывали растущее недовольство в рядах Гитлерюгенда. Это была не партия, где сквозь пальцы смотрели на подобные склонности: молодость более непримирима и склонна к радикальным суждениям. Стали поговаривать о пристрастии Шираха к «девичьим спальням», намекали даже на его гомосексуальные наклонности. Кроме того, подросло молодое, жадное до власти поколение руководителей. Дело шло к полной смене молодежного руководства рейха.
Однако обвинить Бальдура фон Шираха в том, что он, агитируя молодежь на верность фюреру, прятался за их спины, нельзя. Вскоре после начала Второй мировой войны – в декабре 1939 года – он поступил добровольцем в вермахт. Он прошел воинскую подготовку в военном лагере в Берлине-Дёберитце и после окончания курса в апреле 1940 года был направлен на службу в элитный полк «Великая Германия» (заметим – не в СС). В мае – июне 1940 года он в составе 12-й роты своего полка участвовал в тяжелых боях с французскими и британскими войсками в Бельгии и Франции, был произведен в лейтенанты резерва и награжден Железным крестом 2-го класса. Несколько позже (8 сентября 1940 года) он получил приказ о награждении его Штурмовым знаком в бронзе. В июне 1940 года по требованию Гитлера Ширах был отозван из армии. Но вернуться в Гитлерюгенд ему уже было не суждено. В первых числах августа Гитлер произвел ротацию: 7 августа Бальдур фон Ширах был назначен гаулейтером и имперским наместником Вены, а 8 августа его ближайший соратник, начальник штаба и заместитель (и, естественно, первый претендент на его пост) 31-летний Гартман Лаутербахер стал гаулейтером Южного Ганновера – Брауншвейга. Во главе Гитлерюгенда встал 27-летний Артур Аксман, а его начальником штаба стал Гельмут Мёккель. При этом за Ширахом было сохранено звание рейхслейтера (вернее, никто его не отнял) и он также был назначен уполномоченным по инспектированию всех молодежных организаций Германии – но это была не более чем почетная синекура, не имевшая за собой какой-либо реальной власти.
С одной стороны, новое назначение было повышением – пост гаулейтера, подчиненного непосредственно фюреру, тем более в Вене, был очень престижным. Но с другой – Бальдур фон Ширах из деятеля всегерманского масштаба превращался в регионального руководителя. Его рабочие кабинеты размещались в венской императорской резиденции Хофбург, а сам гаулейтер с семьей разместился в роскошной вилле в районе Хоэнварт. Дом был обставлен антикварной мебелью и украшен произведениями искусства, коврами и гобеленами, конфискованными у венских евреев, да и сама вилла ранее принадлежала еврею, бежавшему при аншлюсе Австрии за границу. Какие-то картины Ширах покупал – по личному разрешению Гитлера, – но лишь за ничтожную часть их стоимости: так, за конфискованную у евреев картину Лукаса Кранаха Старшего он заплатил 30 тысяч рейхсмарок, а за картину Питера Брейгеля Младшего – 24 тысячи.
На посту гаулейтера фон Ширах в общем-то ничем себя не зарекомендовал, хотя в 1940 году его назначили также имперским комиссаром обороны XVII военного округа, включавшего в себя территорию гау Вена, Верхний Дунай и Нижний Дунай. Авторитета в высших партийных кругах Ширах так и не заслужил, навсегда оставшись в их представлении молодежным лидером, к которому особенно серьезно относиться не стоило. Начиная с октября 1940 года Гитлер лично поручил Шираху организовать эвакуацию 2,5 миллиона детей из городов Северной и Центральной Германии, которые теперь постоянно подвергались англо-американским бомбардировкам, в специально построенные лагеря на юге Германии и в Австрии. При этом многие родители не хотели отпускать детей в подобные интернаты, а то и в приемные семьи (при живых родителях). Ширах достаточно успешно провел пропагандистскую кампанию и сумел наладить вывоз и размещение детей.
Будучи гаулейтером, Ширах потребовал принятия решительных мер против «асоциальных элементов», к которым также относились и те, кто высказывал критические замечания в адрес нацистского режима. В результате был создан особый комитет, который рассматривал подобные случаи и направлял таковых на принудительное лечение в психиатрические клиники.