В 1979–1982 гг. первый заместитель председателя Госплана СССР.
Член ЦК КПСС (1981–1991). С 22 ноября 1982 года по 15 октября 1985 года – Секретарь ЦК КПСС, одновременно – заведующий Экономическим отделом ЦК КПСС. В интервью Л. Радзиховскому (в газете «Новый Взгляд», 1992) Рыжков вспоминал:
В ноябре 82-го года меня – совершенно неожиданно – избрали секретарем ЦК и Андропов ввёл меня в команду, готовившую реформы. Туда входили и Горбачёв, Долгих… Об этой работе по подготовке реформ я не жалею. Ситуация была тяжелой, кризис зрел. Мы стали разбираться с экономикой, а с этого началась перестройка в 85 году, где практически были использованы итоги того, что сделали в 83–84 годах. Не пошли бы на это – было бы ещё хуже.
(«Андропов поручил члену ПБ Горбачёву, кандидату в члены ПБ Долгих и секретарю ЦК по экономике Рыжкову тщательно изучить сложившееся в экономике положение и подготовить предложения по её реформированию», – писал Рыжков в своих мемуарах.)
С 23 апреля 1985 года по 13 июля 1990 года – член Политбюро ЦК КПСС.
С 27 сентября 1985 года по 14 января 1991 года – Председатель Совета Министров СССР.
Н. Рыжков находился на должности Председателя Совета министров СССР с начала Перестройки, когда были заложены основы изменений в хозяйственной и экономической жизни страны. Заметно сократилось обновление основных фондов, производство средств производства и отчетливо возросла дифференциация доходов групп населения, приведшая к изменению масштаба цен уже в 1988 году. Таким образом, в период его руководства были созданы предпосылки для системного кризиса экономики в 1991—98 гг. Однако, не следует считать, что Н. Рыжков имел злой умысел на развал экономики СССР. По воспоминаниям коллег, причина лежит в его недостаточной компетентности и отсутствии необходимой квалификации, что регулярно приводило к манипулированию им со стороны его помощников. В книге «Красная дюжина. Крах СССР: они были против» приводится его трактовка отставки с этого поста («не хотел быть на капитанском мостике тонущего корабля»).
Когда Михаил Горбачёв приступил к реформам, Николай Рыжков поддержал его курс, видя свою задачу в создании «рыночного социализма», к которому следовало двигаться «эволюционным путём». Академик Олег Богомолов отмечал, что «Рыжков одобрял идеи Перестройки, но относился к ним с осторожностью…».
Рыжков утверждает, что ввёл в 1988 году в отечественную экономику понятия монополизма и конкуренции.