Но время не ждало, и Мазепа приступил к исполнению своего плана. Он объявил старшинам о необходимости измены Москве и для повода к выступлению против нее отправил к Петру своего племянника в качестве казачьего посла с требованием вернуть старые казачьи вольности, отнятые русскими царями. Петр приказал задержать посыльного, но он бежал. Мазепа, опасаясь ареста, открыто перешел на сторону Карла. Он оставил сильное войско в укрепленном Батурине под начальством надежных старшин, с приказанием держать крепость до подхода его со шведами. Сам с отрядом в несколько тысяч казаков перешел Десну и занял боевой порядок против ожидавшихся шведов. Отряд по заранее условленному плану был окружен, и Мазепа обратился к казакам и объявил, что он вывел их не против шведов, а против московского царя. Войско стало разбегаться, около него осталось не больше 2 000 с надежными старшинами.
4 ноября, получив от Меншикова донесение об измене Мазепы и переходе его на сторону Карла, Петр приказал Меншикову взять немедленно Батурин. Подойдя к Батурину, Меншиков увидел, что город заперт, ворота засыпаны землею и сидевшие в нем приготовились к обороне. На предложение сдаться осажденные попросили три дня. Меншиков отказал, осажденные открыли пушечный огонь, и он двинул войска на приступ. Батурин был взят, все старшины батуринского гарнизона были закованы и отправлены в Глухов, где находился царь, а остальные были уничтожены на месте. Батурин разрушен до основания. В Глухове царем были собраны старшины и казаки для избрания гетмана, и избран был полковник Скоропадский. Мазепа был предан архиереями анафеме. Единомышленников его, взятых в Батурине, казнили. Все города Украины прислали заверения в покорности царю. Казна Мазепы, скрытая в Киево-Печерской лавре, была забрана в царскую казну.
Карл и Мазепа заняли города Ромны, Гадяч, Прилуки, Лохвицы, Лубны. Стужа в эту зиму была необыкновенная. Зима проходила в стычках отдельных частей, шведы несли потери в боях, но еще больше страдали от холода. Петр не был уверен в победе и вступил с Карлом в переговоры о размене пленными и условиях мира. Карл ответил, что о мире он будет говорить в Москве.
Карл и Мазепа требовали, чтобы король Лещинский шел к ним на соединение. Лещинский выступил, навстречу ему было послано 5 880 пехоты и 3 600 русских драгун. Польские войска были встречены у Подкамния, потерпели поражение и отступили. Русскими войсками все пути сообщения Карла с Польшей и Швецией были отрезаны, не получалось не только подвоза средств питания, но и курьерских сообщений. Турки и крымцы на помощь Мазепе и Карлу выступать не торопились. Кошевой запорожского войска с казаками перешел на сторону Карла и принес ему присягу, но скоро в бою был взят в плен и потерял голову. Полковник Яковлев напал на запорожцев в Переволочинской крепости и уничтожил их 1000 человек. Донские казаки под Керебердою уничтожили тоже до 1500 человек. В 1709 году царем было приказано полковнику Яковлеву уничтожить Запорожье. После сопротивления Сечь была взята и все защитники уничтожены.
Таким образом, Приднепровье оказалось в руках Москвы, и очаги, на помощь которых рассчитывали Мазепа и Карл, были уничтожены. Войска Карла оказались окруженными вокруг Полтавы и находились в непосредственной близости главных сил русской армии. В Полтаве располагался русский гарнизон, и Карл решил занять город и обложил его. Меншиков с войсками пошел на помощь осажденным, пробился в крепость и облегчил участь гарнизона Полтавы. Петр стал постепенно передвигать войска на сближение со шведами. Армия была переведена через р. Ворсклу и стала против Полтавы. У шведов во время одного из ночных нападений было захвачено 2 000 лошадей. Из Полтавы были получены сведения, что снаряды кончаются и держаться больше осажденные не могут. Царь собрал военный совет, на котором было принято решение дать шведам генеральное сражение. 20 июня армия была передвинута на сближение со шведами и заняла позиции в четырех милях от шведского лагеря. Московскими войсками начали подготавливаться позиции и строиться редуты. Карл, безусловно смелый человек, лично производил наблюдение за расположением московской армии и в одну из рекогносцировок был ранен казаками в ногу.