Лето молодые супруги провели в Павловске, а в конце августа должны были отбыть в Тверь, где отныне им предстояло жить. Георг Ольденбургский был назначен генерал-губернатором трех лучших российских провинций – Тверской, Ярославской и Новгородской, к тому же ему было поручено управлять путями сообщения. Историк Альбина Данилова пишет: «Человек долга и чести, принц Георг сразу после назначения стал с рвением исполнять свои многочисленные и непростые обязанности генерал-губернатора и главного директора Ведомства путей сообщения. Он приступил к работе, еще живя в Петербурге…»
«От водворения царской фамилии Тверь как бы возродилась новою жизнью. Повсюду гремели днем и ночью экипажи… Все главные улицы и набережные освещались фонарями, чего прежде не было. Торговля быстро развивалась, шли разные увеселения, иллюминации, фейерверки по праздникам и в торжественные дни, перед Дворцом всегда играла музыка… Город встрепенулся, будто от сна, всюду появилось движение. Великая княгиня часто прогуливалась по городу в карете, в большом открытом экипаже цугом в шесть лошадей. Она была красавица в полном значении слова, необыкновенно добра, ангельски ко всем ласкова и приветлива. Народ любил ее до безумия, а как скоро где она появлялась, все бежали за ее экипажем с криком „ура!“… Тверь при великой княгине Екатерине Павловне, как заброшенная сиротка, попавшая в хорошие руки, росла, цвела и хорошела не по дням, а по часам», – с восхищением отмечал граф А. В. Кочубей.
«Тихая и однообразная жизнь губернского города с прибытием в Тверь Великой княгини и ее двора совершенно изменилась. Тверь сделалась не только попутным между Петербургом и Москвою местом, в котором останавливались для свидания с Великой княгиней все особы императорской фамилии и величайшие сановники, но она… была некоторое время центром, куда стремились замечательные по талантам своим и просвещению люди, находившие всегда сочувствие и покровительство Великой княгини», – вспоминал адъютант принца и камер-юнкер великой княгини А. П. Оболенский.
Большой известностью пользовались литературные вечера Екатерины Павловны, на которых «…не один раз Николай Михайлович Карамзин… читал свою „Историю“, тогда еще в рукописи. Боялись даже изъявлением удовольствия прервать чтение, равно искусное и увлекательное слушали с вниманием». Сам Карамзин писал брату: «Недавно я был в Твери и осыпан новыми знаками милости со стороны Великой княгини. Она русская женщина: умна и любезна необыкновенно. Мы прожили около пяти дней в Твери и всякий день были у нее. Она хотела даже, чтобы в другой раз мы приезжали туда с детьми…»
Поскольку император Александр частенько навещал свою любимую сестру, тверской двор стал играть значительную роль в политике, здесь обсуждались все государственные дела, и Екатерина Павловна старалась быть в курсе всех политических событий, всего, что происходило в Петербурге и в Европе. От секретаря принца Ф. П. Лубяновского она узнавала содержание газет, которых сама не читала из брезгливого отношения к скверной, пачкающейся типографской краске.
Секретарь оставил яркие воспоминания о Екатерине Павловне в тверской период ее жизни и о тех нежных и душевных отношениях, которые установились между принцем и принцессой Ольденбургскими. Несмотря на то, что брак был мезальянсом и невзрачный супруг не выглядел подходящей парой великолепной Екатерине Павловне, все же она смогла оценить и полюбить его и, согласно общему мнению, была совершенно счастлива в браке!
«Богатый, возвышенный и быстрый, блистательный и резкий ум изливался из уст Ее высочества с волшебною силою приятности в речи. С большим любопытством она расспрашивала и желала иметь подробнейшие сведения о лицах, но не прошедшего века, а современных; не жаловала скромных и почтительных моих отзывов; не верила им; любила сама говорить о всем; из бывших тогда на сцене лиц, начиная с самой высшей ступени, никого не помню, мимо кого Ее высочество изволили бы молча пройти; а заключения ее всегда были кратки, полны, решительны, часто нещадны, – вспоминал Лубяновский. – Когда супруг ее, Принц Георг, уставал от обилия бумаг и дел, и приходил в раздраженное состояние духа, он, бывало, кричал громко в соседнюю комнату (личный кабинет Екатерины Павловны): „Катенька!“ Она неизменно отвечала ему: „Я здесь, Жорж“ и своим приветливым и веселым голосом снимала и напряжение и раздражение мужа. Он успокаивался, и работа продолжалась».
Семейное благополучие Екатерины Павловны и Георга Ольденбургского отмечал и Карамзин: «Полубогиня Тверская все так же любезна. Герцог Ольденбургский есть умный и весьма приятный человек: я рад его знакомству. Они живут здесь в совершенном счастии семейственном».
28 августа 1810 года Екатерина Павловна родила своего первенца – принца Павла-Фридриха-Александра. Император Александр готов был дать ребенку титул великого князя императорского дома, если бы младенца крестили по православному обряду, но принц Ольденбургский настоял на том, чтобы его наследник был крещен в лютеранскую веру.