В августе 1939 года Гитлер во второй раз вызвал Лееба из отставки и назначил командующим группы армий «Ц» (1-й, 5-й, 7-й армии), которая на время войны с Польшей должна была прикрыть западную границу Германии. Основу этой группировки германских войск составляли резервные и ополченческие дивизии. В распоряжении Лееба не было ни одного танкового подразделения. Свое новое назначение на столь высокий командный пост Лееб воспринял без энтузиазма. Уже тогда он стал негативно относится к политике нацистского руководства, считая, что оно ведет дело к развязыванию новой мировой войны, в которой Германии неизбежно грозит поражение. Скептицизм Лееба еще более усилился после гибели в боях под Львовом его сына. Свою задачу по сковыванию превосходящих сил французов во время так называемой «странной войны» на Западе, пока главные силы немецко-фашистского вермахта были задействованы в Польской кампании 1939 года, Лееб выполнил успешно. Однако следует отметить, достигнутый успех являлся не столько его заслугой, сколько благоприятным для немцев стечением обстоятельств. Англо-французские союзники не воспользовались выгодным моментом для нанесения по Германии решительного удара с Запада, хотя и располагали большим превосходством в силах. В то время, когда главные силы вермахта были задействованы в Польше, они попросту бездействовали, преследуя свои корыстные внешнеполитические цели.
При планировании наступления против Франции, которое началось осенью 1939 года, сразу же после разгрома Польши, Лееб выступил против вторжения германских войск во Францию через территорию нейтральной Бельгии, как это было в Первую мировую войну. Он считал, что такой вариант недопустим по моральным соображениям, поскольку в этом случае против Германии ополчится весь мир, и новая мировая война станет неизбежной. Исходя из этого, Лееб предлагал заключить мир с западными державами. Чтобы подтолкнуть Гитлера к заключению мира, он даже предпринял попытку организовать некий демарш в виде коллективной отставки всех трех командующих группами армий на Западном фронте, но натолкнулся на отказ Г. фон Рундштедта и Ф. фон Бока поддержать его.
В ходе Французской кампании 1940 года группа армий Лееба играла вспомогательную роль, сковывая крупные силы французов на «линии Мажино». После разгрома основных сил союзников на главном направлении войска группы армий «Ц» осуществили прорыв этой сильно укрепленной оборонительной полосы и завершили разгром французской армии. За кампанию во Франции Лееб был произведен в генерал-фельдмаршалы (19 июля 1940 года) и награжден Рыцарским крестом. Осенью 1940 года Лееб вместе со своим штабом был переброшен в Дрезден, а весной 1941-го — в Восточную Пруссию, где возглавил командование группы армий «Север» (16-я, 18-я армии, 4-я танковая группа и 1-й воздушный флот). Эта стратегическая группировка немецко-фашистских войск составляла левое крыло германского Восточного фронта в войне против Советского Союза. Ее задача заключалась в нанесении удара из Восточной Пруссии через Прибалтику на Ленинград. Против войны с СССР Лееб также пытался возражать, но Гитлер и Браухич оставили без внимания все его доводы.
Летом 1941 года войска, возглавляемые Леебом, разгромили части Красной Армии в Прибалтике, оккупировали ее и к середине сентября 1941 года вышли к Ленинграду. Но 12 сентября 1941 года Гитлер приказал Леебу прекратить подготовку к штурму этого города и перейти к его блокаде. Одновременно из состава группы армий «Север» были изъяты и переброшены на московское направление 4-я танковая группа, целый ряд частей различного назначения и большая часть авиации 1-го Воздушного флота. Попытка Лееба возражать против этого решения фюрера успеха не имела. 8 ноября 1941 года войска Лееба по приказу Гитлера овладели Тихвином и перерезали последнюю железнодорожную магистраль, по которой через Ладожское озеро осуществлялось снабжение осажденного врагом Ленинграда. В середине ноября 1941 года советские войска перешли в контрнаступление, 9 декабря выбили противника из Тихвина, а затем с большими потерями отбросили его за р. Волхов. 12 января 1942 года Лееб обратился к Гитлеру с просьбой разрешить ему отвести из района Демянска один из своих корпусов, который оказался выдвинутым далеко вперед от основных сил 16-й армии и в случае перехода русских в наступление мог оказаться в окружении. Гитлер отказался выполнить эту просьбу. Через несколько дней произошло то, чего опасался Лееб, — 2-й армейский корпус был окружен советскими войсками и оказался в так называемом Демянском котле. Терпение Лееба, уже давно возмущавшегося дилетантским самоуправством Гитлера, совершенно не считавшегося с мнением даже командующих группами армий (фронтов), наконец лопнуло, и он 16 января 1942 года подал рапорт об отставке. На следующий день отставка Гитлером была принята.
