Его постоянно переводили с места на место. Он раздражал властей. В 1967 году Патриарх Алексий I подписал указ о его переводе на служение в Успенский Псково-Печерский монастырь. Вернувшись в епархию, он узнал, что, пока он был в Москве на приеме у Патриарха, было принято решение перевести его из Касимова на другой приход (уже шестой за десять лет), но оно было отменено из-за его ухода в монастырь.
С 1967 года до своей кончины жил в Псково-Печерском монастыре. С 1970 года – игумен, с 1973 года – архимандрит. Уже спустя год после того, как о. Иоанн поселился в обители, к нему стали приезжать верующие со всех концов страны – за советом и благословением. Посещали архимандрита и православные люди из-за границы. Верующие считали его старцем и почитали за высокую духовность.
Сам архимандрит Иоанн очень не любил, когда его называли старцем. Однажды говорил верующим:
«Не надо путать старца и старика. И старички есть разные, кому 80 лет, кому 70, как мне, кому 60, есть старики и молодые. Но старцы – это Божие благословение людям. И у нас нет старцев больше. Бегает по монастырю старик, а мы за ним. И время ныне такое: «Двуногих тварей миллионы, мы все глядим в Наполеоны». А нам надо усвоить, что все мы есть существенная ненужность и никому, кроме Бога, не нужны. Он пришел и страдал за нас, за меня, за тебя. А мы ищем виноватых: евреи виноваты, правительство виновато, наместник виноват. «Примите, ядите, сие есть Тело Мое» – из-за меня Он был распят. «Пийте – сия есть Кровь Моя» – из-за меня Он ее пролил. И я во всем участник. Зовет, зовет нас Господь к покаянию, восчувствовать меру своей вины в нестроениях жизни…»
В 2001 выступил против кампании по отказу от принятия ИНН, проходившей в церковных и околоцерковных кругах. Участники кампании обосновывали свою позицию, в частности, тем, что людям вместо их христианского имени присваивается номер. В своем обращении к верующим архимандрит Иоанн писал:
«Дорогие мои, как мы поддались панике – потерять свое христианское имя, заменив его номером? Но разве это может случиться в очах Божиих? Разве у Чаши жизни кто-то забудет себя и своего небесного покровителя, данного в момент крещения? И не вспомним ли мы всех тех священнослужителей, мирян-христиан, которые на долгий период жизни должны были забыть свои имена, фамилии, их заменил номер, и многие так и ушли в вечность с номером. А Бог принял их в Свои Отеческие объятия как священномучеников и мучеников, и белые победные ризы сокрыли под собой арестантские бушлаты. Не было имени, но Бог был рядом, и Его водительство вело верующего заключенного сквозь сень смертную каждый день. У Господа нет понятия о человеке как о номере, номер нужен только современной вычислительной технике, для Господа же нет ничего дороже живой человеческой души, ради которой Он послал Сына Своего Единородного Христа-Спасителя».
В 2005 году к 95-летию со дня рождения архимандрит Иоанн был награжден церковным орденом преподобного Серафима Саровского I степени. В последние годы жизни тяжело болел, практически не вставал с постели. Скончался в возрасте 95 лет. Похоронен старец, как и другие печерские монахи, в пещерах Успенского Псково-Печерского монастыря.
Его письма полны сострадательности и любви к ближнему.