Перед Жуковым и другими командующими была поставлена новая задача — очистить от немцев Левобережную Украину, форсировать Днепр и освободить Киев. В сентябре немецкая группа армий «Юг» отступили за Днепр, закрепилась по обе стороны Киева и заняла оборону по берегу Днепра до самого Запорожья. Широкий Днепр, правый берег которого намного выше левого, был серьезным естественным препятствием для наступающих частей советской армии. Однако уже 27 сентября советские войска форсировали реку южнее Киева у Переяславля. 16 октября, стянув на этот плацдарм достаточное число войск и техники, Жуков начал постепенно его расширять. В начале ноября войска 1-го Украинского фронта (так стали называть с конца октября Воронежский фронт) форсировали реку севернее и южнее Киева. 3 ноября они ударили по позициям 4-й армии Гота. Та не выдержала и откатилась на запад. Через три дня Киев был освобожден, а 13 ноября советские войска уже вышли к Житомиру. 24 декабря 1-й Украинский фронт начал новое контрнаступление, 31 декабря был взят Житомир, а к началу января 1944 г. советские войска вышли на польскую границу.
В мае 1944 г. Жуков был отозван с юга для подготовки наступления в Белоруссии — в Ставке и в Генеральном штабе пришли к мнению, что пора нанести немцам удар на центральном направлении. 23 мая Сталин подписал план операции «Багратион». Замысел ее был прост, но в то же время смел и грандиозен. Предполагалось одновременно прорвать оборону группы армий «Центр» на шести направлениях, окружить и разгромить фланговые группировки немцев в районе Витебска и Бобруйска. После этого планировалось сходящимися ударами трех Белорусских и одного Прибалтийского фронтов в общем направлении на Минск окружить и уничтожить основные силы группы армий «Центр». Жукову было поручено координировать действия 1-го и 2-го Белорусских фронтов. Наступление готовилось с большой тщательностью. Весь июнь Жуков объезжал подчиненные ему армии, детально разрабатывая с каждым из командующих план предстоящей операции на участке его фронта. 21–23 июня все четыре фронта перешли в наступление. Удары наносились по обе стороны Витебска на Оршу и Могилев, а также севернее и южнее Бобруйска. В наступлении участвовало 2,5 млн. советских солдат. 24 июня Витебск, в котором находились четыре немецких дивизии, был окружен и вскоре взят. 26 июня части 2-го Белорусского фронта прорвали немецкую оборону между Могилевым и Оршей. В те же дни 1-й Белорусский фронт окружил под Бобруйском основные силы 9-й немецкой армии — свыше 40 тысяч человек. Когда окруженные попытались прорваться, Жуков приказал подавить их сопротивление с воздуха. В течение полутора часов около 500 советских бомбардировщиков и штурмовиков поражали немцев бомбовыми ударами, пушечным и пулеметным огнем. Результаты бомбежки были ошеломляющими. По воспоминаниям самого Жукова, в это время на земле горело все, что только могло гореть. Немецкие солдаты как обезумевшие метались во все стороны. Все, кто не пожелал сдаться, погибли в этом страшном аду. 4 июля был взят Минск, 13 июля — Вильнюс, а к концу месяца вся территория Белоруссии была очищена от противника. Группа армий «Центр» подверглась при этом почти полному разгрому. Советские войска форсировали Вислу и создали на ее западном берегу несколько плацдармов. В конце августа наступление приостановилось. В результате проведенной операции было разгромлено 147 немецких дивизий. Войска на центральном направлении продвинулись вперед сразу на 600 км. Жуков за успешно проведенное наступление был награжден второй Звездой Героя Советского Союза.