В 1976 году по рекомендации Политбюро ЦК КПСС избран первым секретарём Свердловского обкома КПСС (фактическим руководителем Свердловской области), занимал эту должность до 1985 года. По распоряжению Ельцина в Свердловске было построено двадцатитрёхэтажное, самое высокое в городе здание обкома КПСС, получившее в городе прозвища «Белый Дом», «Зуб мудрости» и «Член партии». Организовал строительство автодороги, соединяющей Свердловск с севером области, а также переселение жителей из бараков в новые дома. Организовал исполнение решения Политбюро о сносе дома Ипатьевых (место расстрела царской семьи в 1918 году), которое не было выполнено его предшественником Я. П. Рябовым, добился принятия решения Политбюро о строительстве метрополитена в Свердловске. Заметно улучшил снабжение Свердловской области продуктами питания, интенсифицировал строительство птицефабрик и ферм. Во время руководства Ельцина областью были упразднены талоны на молоко. В 1980 году активно поддержал инициативу по созданию МЖК и строительство экспериментальных посёлков в сёлах Балтым и Патруши. Предметом гордости стал Балтымский культурно-спортивный комплекс, здание которого было признано как «не имеющее аналогов в практике строительства». Находясь на партийной работе в Свердловске, Борис Ельцин получил воинское звание полковник.
В Верховном Совете СССР
В 1978–1989 – депутат Верховного Совета СССР (член Совета Союза). С 1984 по 1988 – член Президиума ВС СССР. Кроме того, в 1981 году на XXVI съезде КПСС был избран членом ЦК КПСС и входил в него до выхода из партии в 1990 году.
В 1985 году, после избрания М. С. Горбачёва Генеральным секретарём ЦК КПСС, был переведён на работу в Москву (по рекомендации Е. К. Лигачёва), в апреле возглавил отдел строительства ЦК КПСС, а в июне 1985 года избран секретарём ЦК КПСС по вопросам строительства.
Как и Горбачев, Борис Николаевич Ельцин происходил из села, но в отличие от средних по состоятельности предков Горбачева, обычных украинских крестьян, середняков – предки Ельцина относились к наиболее состоятельной прослойке дореволюционного крестьянства. Если бы не революция – то именно Ельцины стали бы новыми хозяевами российской деревне, придя на смену дворянам.
Были ли Ельцины кулаками? Напомню, что кулаки, это те, кто занимается на деревне мелким ростовщичеством, а иногда и не мелким, они же скупают сельхозпродукцию и перепродают ее скупщикам в городе. Почти наверняка – нет. Ельцины были как раз теми крестьянами, на которых делал ставку Столыпин. Как и предки Горбачева – отец Ельцина был репрессирован, но если Горбачевы получили свое явно «за язык», то Ельцин – за происхождение. Судя по тому, что отец Ельцина был досрочно освобожден за примерное поведение – особой ненависти к советской власти он не испытывал. Но и принять ее правила игры просто не мог по натуре своей. Как и сам Борис Николаевич Ельцин. Уже в детстве в нем жило то, что в СССР нечасто встретишь – человеческое достоинство. Причем не городское – а именно крестьянское достоинство, достоинство человека, который ощущает себя на своей земле и со своей правдой. Это свое ощущение – Ельцин не боялся отстаивать ни в драках, ни в горкоме партии.