В 1702 году по указу Петра I в Кремле начали строить огромное здание Арсенала. Часть тоннеля, которым прошел Макарьев, была перерезана фундаментом нового здания. Но тайник, замеченный дьяком, строители не обнаружили. Об этом Конон Осипов знал, поскольку часто бывал в Кремле и скрытно следил за работами. Только в 1718 году он решился сообщить о тайнике царю. В декабре 1724 года в Петербурге бывший пономарь Московской церкви Иоанна Предтечи, что за Пресней, Конон Осипов подал доношение в Канцелярию фискальных дел, в котором сообщал, что «есть в Москве, под Кремлем-городом тайник, в том тайнике есть две палаты, полны наставлены сундуками до стропу» (т. е. до сводов).
На них «замки вислые превеликие, печати на проволоке свинцовые; и у тех палат по одному окошку, а в них решетки без затворок». На допросе Осипов показал, что узнал все это от дьяка Василия Макарьева, бывшего при смерти. Макарьев наткнулся на хранилище во времена царевны Софьи, тайники были возле Тайницких ворот, и выходил Макарьев к реке Неглинной в круглую Собакину башню. В доношении Осипов указывал приблизительное положение тайника. В таком виде записка дошло до Петра, и тот собственной рукой написал резолюцию, дающую делу ход и отправляющую пономаря к московскому вице-губернатору. Конон Осипов немедленно выехал в Москву, но уже через месяц ведение работ практически остановилось. 28 января 1725 года Петр умер. Вторично Конон Осипов обратился в Сенат только через десять лет, в 1734 году. В новом доношении он писал, что отыскал вход в тайник, но не смог попасть внутрь; проход оказался полностью завален и замурован. Разрешения же пробить ход он у вице-губернатора Москвы Воейкова так и не получил. Упрямый пономарь снова просил разрешения у сената направить его в Москву для продолжения поисков, обещая не причинить вреда стенам Кремля. Сенат выслушал доношение, но вместо письменного сообщения Осипову был сделан словесный допрос, во время которого он указал места тайников, по этой схеме начали работать царевы люди. Поиски производились у Арсенальной кремлевской стены и круглой наугольной башни, где еще в 1492 году был устроен потайной ход к реке Неглинной для добывания воды в случае осады. К радости Конона Осипова, Сенат постановляет раскопки продолжать, дьяк потирал руки и мечтал о царской милости. Поисковые работы должны были возобновиться у Тайницких ворот, на площади против иностранной коллегии (за Архангельским собором), против Ивановской колокольни и вдоль Цейхаузной (Арсенальной) стены. Однако и на этот раз труды оказались безуспешными, черти спрятали все.
Судя по всему, библиотека действительно исчезла после пожара в 1571 году. Сундуки же, о которых столько хлопотал и мечтал Конон Осипов, очень напоминают те 230 сундуков с различными бумагами Ивана IV, от которых сохранилась только их перечневая опись. Но некоторые документы и духовные грамоты московских князей сохранились и были изданы еще в XVII веке, а позднее были переданы в архивы Министерства иностранных дел. Не на случай ли пожара были помещены они в особый тайник под Тайницкими воротами? Еще один поисковый след идет к древнему русскому городу Старица.
