Дейч часто бывал у Ежова на квартире, уезжал с ним с работы, и эта его особая роль при Ежове бросалась в глаза всем, кто работал в то время в НКВД. В чекистских кругах, где, кстати, многие были недовольны столь бурным возвышением Дейча (помимо того, что он считался ставленником Ягоды, многим были не по душе и чисто человеческие качества ежовского фаворита), его стали называть «генеральным советником наркома» и «некоронованным заместителем».
Кроме Дейча, Ежов на первых порах мог опереться в своей работе еще на трех человек, приведенных им с собой и пользовавшихся его полным доверием, — С. Б. Жуковского, работавшего под его началом в Комиссии партийного контроля, В. Е. Цесарского, занимавшегося в секретариате ЦК вопросами Оргбюро и подбором кадров, и, наконец, бывшего своего заместителя по Распределительному отделу ЦК М. И. Литвина, курировавшего в Распредотделе, помимо прочего, также и кадры ОГПУ. К моменту прихода Ежова в НКВД Литвин работал вторым секретарем Харьковского обкома партии. Ежов убедил Сталина назначить его начальником отдела кадров НКВД, и 14 октября 1936 года данное назначение было утверждено решением Политбюро.
Что касается С. Б. Жуковского и В. Е. Цесарского, то первого Ежов поставил во главе Административно-хозяйственного управления, а второй был назначен на специально для него созданную должность особоуполномоченного при наркоме внутренних дел.
Одним из важных организационных мероприятий, которые Ежов осуществил, придя в НКВД, стала перестройка структуры Главного управления госбезопасности, санкционированная решением Политбюро от 27 ноября 1936 г. В соответствии с предложениями Ежова для лучшей защиты руководящих партийных и государственных работников, которые, как «выяснилось» в ходе следствия по делу «троцкистско-зиновьевского блока», едва не стали объектами покушений со стороны заговорщиков, решено было из охранных подразделений Оперативного отдела создать самостоятельный
Другой новый отдел создавался для активизации борьбы с иностранными разведками, которые, как следовало из многочисленных показаний, добытых чекистами в последнее время, свои основные усилия сосредоточили (в сотрудничестве с внутренней контрреволюцией) на подрыве экономического и оборонного потенциала страны. Противодействие проискам вражеской агентуры силами двух отделов, Экономического и Особого, провоцировало ненужную конкуренцию, распыляло силы и приводило к дублированию функций. Поэтому на базе Экономического отдела и тех подразделений Особого отдела, которые специализировались на борьбе с иностранными разведками, решено было организовать самостоятельный
И наконец, «для создания режима, обеспечивающего должную изоляцию особо опасных лиц» из числа подследственных и осужденных за так называемые контрреволюционные преступления, в составе Главного управления государственной безопасности создавался свой собственный
Таким образом, в результате ежовских нововведений общее число отделов ГУГБ НКВД возросло с восьми до десяти, еще два отдела (
Начальником Главного управления государственной безопасности был наконец официально утвержден первый заместитель Ежова Я. С. Агранов, который еще с конца 1935 года, в соответствии с устным поручением Сталина, формально считался ответственным за работу данного управления. Но официально в этой должности он тогда утвержден не был, и фактически, пока наркомом был Ягода, он же и руководил ГУГБ. Теперь, когда власть в НКВД сменилась, Агранов был, конечно, наиболее подходящим кандидатом на этот ответственный пост. Однако у Сталина начали уже, видимо, появляться какие-то сомнения относительно его способности бороться с врагами режима по-настоящему, и Ежову пришлось затратить определенные усилия, чтобы переубедить вождя.