Задним числом компетентные инстанции признáют, что реабилитация Солженицына оказалась делом канительным и затянулась на целый год. После ХХ съезда жалобы писали все, кто дожил, «тогда как не готовые к шквалу реабилитаций органы прокуратуры и государственной безопасности в полном смысле слова изнемогали от перегрузки». Хроника реабилитации предстаёт как процесс неспешный, но необратимый. По жалобе заявителя от 24 февраля 1956 года помощник Главного военного прокурора полковник юстиции Прохоров 14 июня обратился в КГБ с просьбой выполнить необходимые следственные действия. Делом Солженицына занимались подполковник юстиции Горелый и старший следователь КГБ капитан Орлов — люди, не связанные с бериевским аппаратом. Был допрошен Виткевич — он показал, что в беседах и переписке с другом осуждался культ личности, но антисоветских разговоров не велось. Допрошенный Симонян тоже аттестовал друга с лучшей стороны.
14 июля Солженицын писал Решетовской: «В связи с моими хлопотами о реабилитации я допрашивался и, очевидно, в первой половине месяца или во второй половине месяца будешь допрошена в качестве свидетеля и ты. Ничего не пугайся, всё идёт очень хорошо… Следователь обещал, что реабилитация будут непременно». Но Наташу успели вызвать в Рязанский КГБ ещё до Саниного письма, и она немало напугалась, подумав, что начато новое следствие. Её успокоили: цель допроса — подтвердить политическую благонадёжность бывшего мужа. 29 сентября заместитель председателя КГБ генерал-лейтенант Ивашутин утвердил подготовленное капитаном Орловым заключение, согласно которому следовало «возбудить ходатайство перед Генеральным прокурором СССР о внесении протеста в Верховный Суд СССР на предмет отмены постановления ОСО от июля 1945 года в отношении Солженицына А. И. и прекратить его дело по пункту “б” ст. 204 УПК РСФСР».
Однако вопрос о реабилитации решался не автоматически. Главную военную прокуратуру одолевали сомнения — обвинение 1945 года было «более чем серьёзно»: заговор, организация… Только через два месяца, после долгих дебатов, в Военную коллегию Верховного Суда СССР был направлен надзорный протест за подписью генерал-майора юстиции Терехова, где ставился вопрос об отмене постановления ОСО НКВД и прекращении дела Солженицына по п. 5 ст. 4 УПК РСФСР, то есть за отсутствием состава преступления.
6 февраля 1957 года Военная коллегия Верховного Суда СССР, под председательством полковника юстиции Борисоглебского (члены суда — полковники юстиции Долотцев и Конов) вынесла определение № 4н-083/57: «Постановление Особого совещания при НКВД СССР от 7 июля 1945 года в отношении Солженицына Александра Исаевича отменить и дело о нём за отсутствием состава преступления прекратить».
«Мы были уверены в правильности своих выводов, хотя даже не предполагали, что рассматриваем дело будущего писателя», — рассказывал в начале 1990-х один из сотрудников коллегии. Определение Верховного Суда было предъявлено Солженицыну под расписку 2 марта 1957 года по месту жительства (п/о Торфопродукт) Курловским отделением милиции, и тогда же ему вручили справку о реабилитации. Отныне он считался жертвой политических репрессий; по новым правилам (Постановление Совмина СССР № 1655 от 8 сентября 1955 года) восемь лет заключения засчитывались в непрерывный трудовой стаж, три года ссылки — в стаж педагогический, а шарашка — в работу по специальности в качестве младшего научного сотрудника НИИ МВД и МГБ СССР.
В предвидении реабилитации Солженицын почти ничего для себя не ждал. «Мой друг и одноделец Виткевич, с кем общими мальчишескими усилиями мы закатились за решётку, — воспринял всё пережитое как проклятье. Как постылую неудачу глупца». Одиннадцать лет, проведённые в неволе, Солженицын усвоил не как позор и не как проклятье. Во сне он часто видел себя заключённым и завёл обычай: в годовщину ареста устраивал «день зэка» — отрезáл утром 650 граммов хлеба, клал два кусочка сахара, наливал кипяток. А в обед съедал порцию баланды и черпачок жидкой кашицы. «И как быстро вхожу я в старую норму: уже к концу дня собираю в рот крошки, вылизываю миску».