После завершения расследования убийства Кирова Ежов еще на некоторое время задержался в Ленинграде. Сюда привезли арестованных в Москве Г. Е. Зиновьева, Л. Б. Каменева и группу их единомышленников, из которых, в соответствии с замыслом Сталина, нужно было сконструировать «московский центр» контрреволюционной организации, по поручению которого якобы и было осуществлено (силами ленинградского «филиала») убийство Кирова. После всех следственных ухищрений обвиняемым смогли вменить лишь политическую ответственность за совершенное преступление, и на состоявшемся 15–16 января 1935 г. заседании Военной коллегии Верховного Суда они были приговорены к различным срокам тюремного заключения (Каменев и Зиновьев — соответственно к пяти и десяти годам).
Хотя и не все получилось, как хотелось, но в целом работой Ежова в Ленинграде вождь остался доволен. Со своей новой ролью надзирателя за деятельностью органов госбезопасности он справился вполне удовлетворительно, и, обдумав ситуацию, Сталин решил поручить ему и дальше выполнять эту работу, но уже на постоянной основе.
1 февраля 1935 г., решением пленума ЦК, Ежов, оставаясь по-прежнему заведующим Промышленным отделом, назначается еще и секретарем ЦК, и ему передаются принадлежавшие ранее Л. М. Кагановичу функции наблюдения за работой чекистского ведомства. Конечно, основные вопросы, относящиеся к деятельности НКВД, оставались, как и прежде, в компетенции самого вождя, а Ежову предстояло заниматься разными текущими делами, а также кадровыми вопросами.
Уже несколько дней спустя Ежов дебютировал в новой для себя роли, выступив на проходившем в начале февраля 1935 года совещании руководящего состава НКВД. Значительную часть своего выступления он посвятил анализу недостатков в деятельности агентурной сети. Расследование обстоятельств убийства Кирова, заявил Ежов, показало, что работа с агентурой поставлена из рук вон плохо. В то время как на заводах и в учебных заведениях действуют сотни осведомителей, в научно-исследовательских институтах, в разного рода общественных организациях, в «десятистепенных учреждениях», то есть именно там, где в основном скопились и отсиживаются до лучших времен троцкисты, зиновьевцы «и всякая эта сволочь», агентуры фактически нет, а если и есть, то пользы от нее очень немного. Это подтвердили и последние события: те немногочисленные осведомители, которые находились поблизости от фигурантов двух только что закончившихся в Ленинграде процессов, ничего ценного в оперативном плане о своих подопечных не сообщали.
Вместо того, чтобы заботиться о качестве агентуры, отметил Ежов, чекисты погнались за количественными показателями. В осведомители вербуют кого попало, не воспитывают их в чекистском духе, некритически относятся к поставляемым ими материалам. Вместо индивидуальной, кропотливой работы с агентами, их иной раз собирают в каком-нибудь «красном уголке» и инструктируют всех скопом. В результате по тому же Ленинграду из состоящих на учете примерно 50 тысяч осведомителей лишь меньшая часть реально работает, а остальные только числятся таковыми на бумаге.
С подобным положением, подытожил Ежов, мириться больше нельзя, и всю работу с агентурой необходимо перестраивать самым решительным образом.
В начале 1935 года важным политическим мероприятием, в котором пришлось принять участие и Ежову, стало расследование так называемого «кремлевского дела» (или, как оно еще называлось в служебных документах НКВД, дело «Клубок»), связанного с фигурой одного из видных деятелей большевистской партии, члена ЦК ВКП(б) А. С. Енукидзе.
58-летний Авель Енукидзе, член партии с 1898 г. (первого года ее существования), в течение последних 13 лет исполнял обязанности секретаря Президиума Центрального Исполнительного Комитета (ЦИК) СССР. Формально именно этот орган в перерывах между сессиями ЦИК СССР и съездами Советов осуществлял государственную власть в стране. Председателем ЦИК СССР и номинальным главой советского государства являлся М. И. Калинин, а Енукидзе был как бы его правой рукой.
На самом деле никакой высшей властью ни съезд Советов, ни ЦИК, ни его Президиум, естественно, не являлись, а служили лишь декорацией, прикрывающей власть настоящую. Соответственно и должность секретаря Президиума ЦИК СССР была не самой престижной в тогдашней номенклатурной иерархии. Однако у Енукидзе было одно достоинство, которое выгодно отличало его от других, — давняя дружба со Сталиным, вместе с которым он еще в начале века работал в подпольных большевистских организациях Закавказья. Это давало Енукидзе возможность уверенно держаться на плаву и даже позволять себе некоторые вольности, которые другим вряд ли бы сошли с рук. Имеется, в частности, в виду его скандально известная слабость к представительницам прекрасного пола, оказывавшая заметное влияние на подбор кадров в подведомственных Енукидзе государственных учреждениях.