В 1926 году был назначен начальником организационного управления Военного министерства и произведен в полковники. Занимал эту должность 4 года, после чего был назначен начальником военного (пехотного) училища в Дрездене и произведен в генерал-майоры (1930). Принимал суровые дисциплинарные меры к курсантам-участникам нацистского движения. В 1932 году вернулся в Военное министерство, заняв должность начальника управления боевой подготовки, но вскоре был назначен командиром 4-й пехотной дивизии и произведен в генерал-лейтенанты (1932).
Приход к власти в Германии нацистов встретил с холодной настороженностью, как и абсолютное большинство высших офицеров рейхсвера. В 1935 году его дивизия была развернута в 4-й армейский корпус, а сам Лист стал его командиром и был произведен в генералы пехоты. В том же году назначен командующим 4-м военным округом (Дрезден). В этот период Лист входил в первую десятку старших военачальников германской армии, занимая среди них по старшинству 8-е место.
Во время известного кризиса в военном руководстве вермахта (дело Бломберга — Фрича) Лист безоговорочно принял сторону Гитлера, чем заслужил его благосклонность и счастливо избежал «генеральской чистки». В феврале 1938 года был назначен командующим 2-й армейской группой (Кассель) вместо уволенного в отставку генерала В. фон Лееба.
После аншлюса Австрии назначен командующим развернутой там 5-й армейской группой (штаб, Вена), сменив на этом посту генерала Ф. фон Бока (апрель 1938 года). Этот высокомерный пруссак за свое короткое пребывание в Австрии сумел вызвать такое раздражение у новых подданных рейха, что те потребовали от своего земляка Гитлера его немедленного отзыва. Поэтому фюрер и заменил Бока более дипломатичным баварцем Листом. Лист реорганизовал австрийскую армию и объединил ее с германским вермахтом, сформировал на территории Австрии 2 новых армейских корпуса (17-й и 18-й). Командовал войсками вновь сформированной 14-й армии при оккупации Судетской области и Чехословакии. В апреле 1939 года получил чин генерал-полковника.
К началу Второй мировой войны Лист имел уже прочную репутацию сторонника нацистов. Во время Польской кампании 1939 года успешно командовал 14-й армией, действовавшей на юге Польши; его войска взяли Краков и Львов. За боевые заслуги в этой кампании награжден Рыцарским крестом. С октября 1939 года командующий 12-й армией на Западном фронте. Во время Французской кампании 1940 года вновь отличился и был произведен в генерал-фельдмаршалы (19 июля 1940 года).
В начале 1941 года армия Листа была переброшена на Балканы. В этот период Лист проявил незаурядные дипломатические способности. В феврале 1941 года он умело провел переговоры и заключил военный договор с Болгарией, в соответствии с которым на территории этой страны разместились войска его 12-й армии.
Командуя армией во время Балканской кампании 1941 года, Лист вновь проявил себя как выдающийся военачальник. Под его командованием войска 12-й армии разгромили греческую армию, а также пришедший ей на помощь английский экспедиционный корпус, и оккупировали Грецию (капитулировала 23 апреля 1941 года). Одновременно во взаимодействии со 2-й армией генерала М. фон Вейхса они нанесли сокрушительное поражение югославской армии и оккупировали Югославию (капитулировала 17 апреля 1941 года). Потери 12-й армии в ходе Балканской кампании, завершившейся блистательной победой вермахта, составили всего 5 тыс. человек, в то время как противник только пленными потерял свыше 370 тыс. человек.
10 июня 1941 года Гитлер назначил Листа главнокомандующим немецко-фашистскими войсками на Балканах (штаб, Салоники). Но на Балканах Лист пробыл недолго. В октябре 1941 года он заболел, сдал командование и уехал в Германию.
Более 8 месяцев Лист находился не у дел. Только 9 июля 1942 года по рекомендации генерал-фельдмаршала В. Кейтеля (начальник штаба верховного командования) и генерал-полковника Ф. Гальдера (начальник Генерального штаба сухопутных войск) Гитлер назначил Листа командующим группой армий «А» (11-я А, 17-я А, 1-я ТА, затем и 4-я ТА) на Восточном фронте. Это назначение состоялось, несмотря на то, что фюрер к этому времени уже не питал особых симпатий к Листу (он располагал информацией о критическом отношении фельдмаршала к авантюристической политике нацистского руководства Германии и лично Гитлера).