После смерти фельдмаршала все хозяйственные заботы легли на плечи его вдовы – графиня Анна Петровна «фельдмаршалова», как ее часто называли в документах того времени, жила с детьми то в Петербурге, то в Москве или в подмосковных усадьбах. Она отдавала распоряжения о строительстве дома в Петербурге, хлопотала о списании долга, который, как оказалось, был на одной из усадеб покойного мужа, а кроме того, была вхожа во дворец, поскольку ее единственная дочь от первого брака – Анна Львовна – приходилась двоюродной сестрой Петру I, а Петр Борисович Шереметев, унаследовавший от отца графский титул, стал товарищем игр царевича, внука Петра I, будущего императора Петра II.
В пятнадцать лет он фактически стал главой семьи – мать его умерла, и на его попечении остались младший брат, четыре родные сестры, единокровные сестры и племянники – потомки его отца от первого брака с Авдотьей Алексеевной Чириковой.
К этому времени он как раз достиг возраста, когда дворянские дети поступали на службу. Но еще при рождении он был записан в Преображенский полк – такая практика в то время была довольно распространена, и никаких реальных обязанностей, кроме церемониальных он, по сути, не имел.
До восшествия на престол императрицы Елизаветы он получил лишь чин капитана и звание камергера. Царствование Елизаветы и брак с дочерью канцлера Черкасского, наследницей крупнейшего состояния в России, положили начало его восхождению по карьерной лестнице. При Елизавете Шереметев получил звание генерал-адъютанта и чин генерал-аншефа, а также был награжден орденами святой Анны и Александра Невского.
В сентябре 1754 года его уже произвели в генерал-лейтенанты с сохранением ему придворного звания, хотя никаких военных деяний за ним не числилось – граф не участвовал ни в одной военной кампании, затем он стал генералом и генерал-адъютантом Ее Величества, а после восшествия на престол своего товарища по детским играм, императора Петра II, получил орден Св. апостола Андрея Первозванного и звание обер-камергера двора.
Позже граф Петр Шереметев прославился не только как богатый помещик, но и как просвещенный меценат. Не имея необходимости заботиться о хлебе насущном, он жил в свое удовольствие и стал известен своими чудачествами, любовью к искусствам, роскошным образом жизни и богатством. Он выписывал из-за границы философские и политические труды, собирал в своей загородной усадьбе картины, создав лучшую в России того времени галерею портретов, собрал коллекцию редких руд, окаменелостей и минералов.
В январе 1743 года, будучи уже в зрелом возрасте, граф решил жениться на княжне Варваре Алексеевне Черкасской, которая была старше его на полтора года. Княжна Черкасская была единственной дочерью князя Алексея Михайловича Черкасского и его жены княгини Марии Юрьевны, урожденной княжны Трубецкой.
«Сговорную грамоту» – своего рода брачный договор – подписали тридцать восемь человек, в том числе и родственники графа – его племянники генерал-майор Алексей Федорович Шереметев и майор Владимир Федорович Шереметев.
После женитьбы за счет приданого состояние графа Петра Борисовича увеличилось почти вдвое. Его жене принадлежали села Останкино и Иваново, дом на Миллионной улице в Санкт-Петербурге (Миллионный дом), обширная территория в Москве на Сухаревке (Черкасские огороды) и другие имения.
После свадьбы граф решил, что для семейной жизни следует приспособить дом, который его отец выстроил в Петербурге. Дом, впрочем, следовало перестроить соответственно положению Шереметева. Для этого был нанят архитектор Савва Иванович Чевакинский, который также уже создал дом на Миллионной улице, а кроме того, в строительстве этого дома принимали участие и крепостные графа, среди которых было немало талантливых людей – таких, например, как семья Аргуновых, крепостных сначала князя Черкасского, а потом графа Шереметева, среди которых были портретисты, скульпторы, певцы и архитекторы.
Строительство нового каменного дома было закончено к 1750 году, и туда был перенесен антиминс из домовой церкви Святой великомученицы Варвары, существовавшей в Миллионном доме. Возле дома разбили сад с несколькими павильонами – Гротом, Китайской беседкой, Эрмитажем, фонтанами и мраморными скульптурами, чтобы сделать этот сад копией императорских парков Растрелли. И действительно, дом и сад настолько напоминали творчество великого зодчего, что долго не верилось, что все это – дело рук крепостных Шереметева.
Переселившись в новый дом, Шереметев часто устраивал пышные пиры, маскарады, а также устроил любительский театр, в котором играл он сам, его дети и другие дворяне – графы Строгановы, графы Чернышевы, князья Хованские и Белосельские-Белозерские и даже сам будущий император Павел I.