Между тем подстегиваемый этими спорами директор Исторического музея князь Щербатов с разрешения московского генерал-губернатора приступил к раскопкам в Кремле. На площади между Благовещенским и Архангельским соборами была вырыта глубокая траншея, обнажившая каменные стены древнего «казенного двора». Ломать их землекопы не стали, но вскрыли пол поблизости — в нижнем этаже Благовещенского собора. Под ним оказалось пустое пространство, кое-где засыпанное землей и мусором. После его расчистки нащупали второй каменный пол, под которым тоже не было ничего, кроме мусора. Поиски подземного хода под Грановитой палатой оказались также безуспешными.
Тогда князь Щербатов стал вести подкоп под Троицкую башню со стороны Александровского сада и через месяц, наконец, обнаружил большую и высокую подземную палату с отлично сохранившимися белокаменными сводами. Посередине этого тайника лежала каменная плита. Под ней оказался вход во второй тайник, тоже пустой. В стене первого тайника был узкий проход, в котором можно было передвигаться лишь согнувшись, ведший в третий просторный тайник с разрушенным люком посередине. Спустившись в этот люк, землекопы нашли под ним четвертую подземную палату, почти доверху заваленную землей и мусором. Каменный свод над этой палатой был настолько сильно поврежден, что наблюдавший за работами инженер запретил дальнейшие раскопки, и вопрос о том, сообщаются ли эти пустые палаты посредством подземного хода с каким-нибудь другим тайником, остался невыясненным.
Просторная подземная палата была найдена и при раскопках под Боровицкими воротами, но она была на четыре аршина засыпана землей и не имела выхода в другое помещение.
Предполагая, что таинственный ход, которым шел дьяк Василий Макарьев, а после него пономарь Конон Осипов, находится в фундаменте кремлевской стены, князь Щербатов в двух местах обнажил ее до основания, но и там не обнаружил прохода в тайник. Внутри некоторых зубцов этой стены зияли подозрительные отверстия — «продухи». «Не для вентиляции ли тайника они устроены?» — всполошились исследователи, но оказалось, что их пробили для просушки стен.
Последней была тщательно осмотрена круглая Арсенальная башня, построенная в XVI веке прибывшим в Москву из Италии искусным зодчим Пьетро Антонио Солари. В первом ее надземном этаже землекопы нашли замурованную дверь, возможно служившую когда-то выходом из тайника. За ней действительно оказался подземный ход, круто уходивший вниз на глубину восьми аршин и разветвлявшийся в двух направлениях. Едва сделав по этому ходу несколько шагов, рабочие наткнулись, однако, на серьезное препятствие — огромный белокаменный столб, составлявший, по-видимому, часть фундамента построенного в начале XVIII века кремлевского арсенала. Такой же столб мешал продвижению и по уходившему вправо второму проходу.
На этом раскопки прекратились. Ломать столбы князь Щербатов не стал, надеясь потом перехватить тайник за пределами арсенала. Но отпущенные на раскопки средства иссякли, и осуществление этого плана было отложено на неопределенное время.
Неутешительные итоги подземных работ подтверждали мнение Белокурова о бесполезности дальнейших поисков. Но он знал, что противники его на этом не успокоятся и будут говорить, что князь Щербатов искал библиотеку не там, где следует, что она спрятана в другом месте. Поэтому он решил, не дожидаясь возобновления работ, доказать их бесполезность специальным научным исследованием, посвященным вопросу: «А существовало ли вообще когда-нибудь книгохранилище Ивапа Грозного?»
«…Входя в присутственную залу архива, всегда можно было застать его за письменным столом, наклонившимся над какими-нибудь старыми рукописями, которые он просматривал или перебирал. Не было, вероятно, в этом собрании ни одного картона, книги или связки, о которой он не имел бы более или менее подробного представления».
Эти строки были написаны в связи со смертью С. А. Белокурова — последнего управляющего Московским главным архивом министерства иностранных дел, прослужившего в нем более тридцати лет и умершего в 1918 году, в разгар захватившей его работы по созданию нового, уже советского архивного управления.
В некрологе подчеркивалось, что Белокурова увлекал самый процесс розыска, независимо от достигаемого им при этом результата. Ради краткой справки, состоящей иногда из одной строчки, он был способен просмотреть сотни книг и рукописей. Чем запутаннее и сложнее была проблема, тем с большей энергией брался он за исследование, не страшась никаких преград.