Был первым заместителем начальника 1-го Главного управления (внешняя разведка). В 1989 году назначен заместителем председателя КГБ — начальником 2-го Главного управления КГБ (контрразведка).
На последнем XXVIII съезде КПСС (июль 1990 года) избран членом ЦК КПСС. Награжден орденом Октябрьской Революции, орденом Красного Знамени, орденом Дружбы народов.
25 августа 1991 года, после попытки ГКЧП ввести чрезвычайное положение, снят с должности, вызван в прокуратуру и там задержан. Находился в следственном изоляторе до декабря 1991 года. Обвинялся в измене Родине. В «Матросской Тишине» перенес три инфаркта, потерял в весе 20 кг. Освободили его из заключения по состоянию здоровья.
В 1994 году в Англии вышел криминальный триллер Grushko. Прототип главного героя — В.Ф. Грушко. Скончался в 2001 году.
Заместителями Крючкова с января до его ареста в августе 1991 года были А.А. Денисов (09.06.1990-06.09.1991), И.Я. Калиниченко (28.12.1989-06.11.1991), В.Ф. Лебедев (29.01.199111.09.1991), И.К. Петровас (15.12.1990-05.09.1991), В.П.Пирожков (12.03.1971-29.01.1991), В.А.Пономарев(05.12.1985-28.08.1991), В.М. Прилуков (16.03.1991-28.08.1991), Г.Ф. Титов (29.01.1991-11.09.1991), Л.В. Шебаршин (06.02.198921.09.1991).
Как Ф.Д. Бобков среди первых заместителей, так и В.П. Пирожков среди заместителей был самым опытным и по стажу и по возрасту. Владимир Петрович стал заместителем в 47 лет и пробыл в этой должности два десятка лет. Участник Великой Отечественной войны, в мае 1942 года, когда ему исполнилось 18 лет, добровольцем ушел на фронт. Участвовал в освобождении Минска, Варшавы, взятии Берлина.
С 1946 года был на комсомольской, затем на партийной работе. В 1968 году с должности второго секретаря Алтайского крайкома КПСС по решению Политбюро ЦК направлен в органы госбезопасности. Стаж его работы в КГБ — почти четверть века.
С 1987 года входил в состав рабочей группы Комиссии Политбюро ЦК КПСС по дополнительному изучению материалов, связанных с репрессиями, имевшими место в период 19301940 и начала 1950-х годов. На заседании комиссии 17 октября 1989 года проинформировал, что с начала процесса реабилитации, с 1954 года, рассмотрено около 760 тысяч дел, по которым проходило около 1,2 млн человек. Из них реабилитировано 868 300 человек, отказано в реабилитации 212 тысячам.
Награжден двумя орденами Ленина, орденом Октябрьской Революции, тремя орденами Трудового Красного Знамени, орденами Отечественной войны I и II степени. Скончался в 2009 году в возрасте 85 лет.
Генерал-полковник Илья Яковлевич Калиниченко командовал Пограничными войсками КГБ СССР и одновременно был заместителем председателя КГБ. Крючков называл его честным службистом, для которого работа, верность долгу, Родине составляли основу жизни.
Его имя было включено в список должностных лиц КГБ СССР, в отношении которых проводилось расследование о их роли и участии в событиях 19–21 августа 1991 года. Калиниченко было указано на «проявленную политическую незрелость и недальновидность в действиях по выполнению распоряжений вышестоящих начальников, способствовавших деятельности путчистов».
В чем проявились «политическая незрелость» и «недальновидность»?
Во-первых, 18 августа он поставил задачи Симферопольскому погранотряду и Балаклавской бригаде пограничных сторожевых кораблей по усилению охраны района зоны отдыха президента СССР и подчинению командиров этих частей только начальнику Службы охраны генерал-лейтенанту Ю.С. Плеханову и его заместителю генерал-майору В.В. Генералову.
Во-вторых, узнав 19 августа о введении чрезвычайного положения в стране, отдал распоряжение об усилении охраны госграницы, а на совещании Главка объявил распоряжение о переводе войск в состояние повышенной боевой готовности.
В-третьих, подписал и направил в войска подготовленное начальником Военно-политического управления погранвойск генерал-лейтенантом Н.В. Бритвиным указание, в котором предлагалось широко вести пропаганду среди всех категорий военнослужащих документов ГКЧП и принять участие в работе создаваемых на местах ГКЧП в интересах выполнения служебных задач. Этим документом, подписанным также секретарем парткома Погранвойск генерал-майором В.Г. Анцуповым, рекомендовалось обсудить меры по реализации решений ГКЧП на партийных собраниях.
В декабре 1991 года Калиниченко получил должность государственного советника РСФСР-РФ по вопросам охраны границы, затем возглавлял Межгосударственный комитет по этим же вопросам. В 1993 году ушел в отставку. Скончался в 1997 году в возрасте 66 лет.
Крючков высоко отзывался о работе 16-го управления КГБ, отмечал, что на его счету было немало изобретений высочайшего уровня. 17 лет провел там на разных должностях, включая должность первого заместителя начальника управления генерал-майор Алексей Алексеевич Денисов. В июне 1990 года Крючков назначил его своим заместителем. Денисов был освобожден от этой должности через две недели после ареста Крючкова.
