Образование получил в кадетском корпусе, после которого окончил военное училище и был произведен в офицеры (1901). Получил назначение в дислоцированный в Лейпциге 7-й гренадерский полк, где прослужил более 7 лет. В 1910 году получил чин обер-лейтенанта. В 1913 году окончил Военную академию и был зачислен в штат Генерального штаба. Участник Первой мировой войны на Западном фронте. Начал ее адъютантом командира бригады, капитан (1914). В начале 1915 года назначен командиром роты 6-го пехотного полка, которой прокомандовал более полутора лет. В августе 1916 года переведен в штаб полка, а в апреле 1917 года стал командиром батальона в этом же (6-м пехотном) полку. С августа 1918 года — офицер Генерального штаба при штабе 108-й пехотной дивизии. Войну так и закончил капитаном. За боевые отличия в годы Первой мировой войны удостоен ряда наград, в том числе Железного креста 2-й и 1-й степени. После поражения Германии в Первой мировой войне и демобилизации кайзеровской армии оставлен служить в рейхсвере — армии Веймарской республики (1919). С начала 1919 года командовал ротой в 7-м гренадерском полку, но уже через 2 месяца был переведен в Военное министерство. В 1921—1923 годах проходил обязательную для офицеров Генерального штаба стажировку в должности командира 8-го пулеметного полка, затем служил в штабах 4-го военного округа (1923—1925), майор (1923); 12-го кавалерийского полка (1925—1926) и 3-й пехотной дивизии (1926—1928). В 1928 году назначен на должность командира батальона в 6-м пехотном полку, а через год стал начальником штаба 6-й пехотной дивизии — 6-го военного округа (Мюнстер), подполковник (1929). В 1931 году назначен командиром 8-го пехотного полка и произведен в полковники.
Будучи убежденным монархистом, приход к власти в Германии нацистов (январь 1933 года) встретил крайне отрицательно. Несмотря на это, только при нацистах началось быстрое продвижение Вицлебена по службе. Уже в 1933 году он назначается заместителем (по пехоте) командира 4-й пехотной дивизии (Дрезден), которой в то время командовал генерал В. Лист (будущий генерал-фельдмаршал). 1 февраля 1934 года произведен в генерал-майоры и назначен командиром 3-й пехотной дивизии — командующим 3-го военного округа (Берлин), сменив на этом посту генерала барона В. фон Фрича, занявшего должность главнокомандующего сухопутными войсками. Начальником штаба у Вицлебена был тогда полковник Э. фон Манштейн.
Сразу же с началом установления в стране нацистских порядков он пытался препятствовать их утверждению в подчиненных ему войсках, активно выступил против СА (штурмовые отряды нацистской партии) и планов их руководства по превращению этой военизированной фашистской организации в так называемую «народную армию», которая бы существовала параллельно с рейхсвером. В принципе он не возражал против кровавой расправы Гитлера с верхушкой СА во время «Ночи длинных ножей» (30 июня 1934 года). Но когда стало известно о гибели во время этой резни генералов К. фон Шлейхера и К. фон Бредова, то вместе с генералами Г. фон Рундштедтом, В. фон Леебом и другими потребовал проведения расследования. Однако пронацистски настроенный военный министр В. фон Бломберг не допустил этого. В конце 1934 года произведен в генерал-лейтенанты. В 1935 году 3-я пехотная дивизия была развернута в 3-й армейский корпус, и Вицлебен стал его командиром, сохранив за собой и пост командующего столичным военным округом. В 1936 году получил чин генерала пехоты.
