Нет сомнения в том, что для многих деятельных и амбициозных членов партии объявление такого конкурса означало открытие надежд на быстрое продвижение вверх по служебной лестнице. В то же время для многих обладателей насиженных мест объявление Сталиным всесоюзного конкурса на все управленческие вакансии было равносильно сигналу боевой тревоги. Сравнив звенья партийного руководства с вагонами метро, пассажиры которого считали, что спокойно доедут до конечной остановки, можно представить себе, что Сталин объявлял «всем пассажирам»: «Поезд дальше не пойдет! Нет посадки на поезд! Просьба освободить вагоны!» Возможность же снова поехать в удобном вагоне равнялась лишь одной к трем. Нет сомнения в том, что многие руководители разных уровней (от «унтер-офицерского» до «маршальского») восприняли эту программу Сталина как смертный приговор их политическим карьерам.
Неудивительно, что март 1937 года стал месяцем резкого обострения закулисной внутриполитической борьбы. Очевидно, что против Сталина активизировалась тайная борьба многих видных деятелей в партийном и военном руководстве страны. Имевшиеся в германских правящих кругах сведения позволили Паулю Кареллу утверждать, что «в марте 1937 года соперничество между тайными агентами Тухачевского и Сталина обострялось и становилось все более драматичным». Объясняя, почему Тухачевский не выступил в марте, Карелл считает, что в это время «каждый шаг офицеров Генерального штаба и командующих округами, штабы которых были размещены на десятки тысяч километров друг от друга, было трудно координировать. К тому же усиленное наблюдение за ними со стороны НКВД заставляло их действовать с максимальной осторожностью».
Однако в это время сам наркомат внутренних дел переживал период чистки. В марте 1937 года Ежов направил почти всех руководителей отделов НКВД, остававшихся еще на своих постах со времен Ягоды, для проведения инспекций на местах. Как утверждал Р. Конквест в своей книге «Великий террор», все они «были арестованы на первых же станциях после выезда за пределы Москвы и доставлены в тюрьмы. Через два дня таким же образом были арестованы все заместители руководителей отделов. Одновременно Ежов сменил охрану НКВД на всех наиболее важных постах». 18 марта Ежов в своем выступлении перед коллективом центрального аппарата НКВД объявил Ягоду преступником и тот был арестован 3 апреля. Аресты бывших сотрудников Ягоды были продолжены. Р. Медведев утверждает, что «не менее десяти — пятнадцати видных работников НКВД покончили жизнь самоубийством». Называя фамилии тех, кто был арестован или покончил жизнь самоубийством, Рыбин писал, что многие из них участвовали в заговоре Ягоды: «Аресты Ягоды, Агранова, Паукера, Воловича и Гинцеля проходили на моих глазах. Комендант Кремля комиссар Тал кун, подчиненный непосредственно Ягоде, застрелился. Комиссар Даген был арестован, комиссар Курский застрелился, капитан Черток, порученец Ягоды, бросился с седьмого этаже и разбился насмерть. Затем исчезли Панов, Тихонов, Козлов и Голубев. Словом, весь наш командный состав разных рангов».
17 марта был снят с поста второго секретаря ЦК КП(б) У проводник жесткой линии кандидат в члены Политбюро Постышев. Хотя он был избран первым секретарем Куйбышевского обкома партии, в Киеве развернулась кампания против «небольшевистских методов работы» Постышева.
В апреле были продолжены аресты среди военных. Были арестованы заместитель начальника автобронетанкового управления РККА М. М. Ольшанский, командир 9-го стрелкового корпуса Московского военного округа Г. Н. Кутателадзе, бывший начальник охраны правительства В. Паукер, бывший комендант Кремля Р. А. Петерсон, заместитель коменданта Кремля дивизионный комиссар М. А. Имянинников.
Эти события заставили участников заговора ускорить время выступления. По словам Карелла, на 1 мая 1937 года было назначено выступление. Выбор дня переворота был обусловлен главным образом тем, что «проведение первомайского военного парада позволяло бы ввести военные части в Москву, не вызвав подозрений». Однако в развитие событий вмешались внешнеполитические обстоятельства.
В это время в Западной Европе стали широко распространяться слухи о том, что в Москве готовится военный переворот. В «Бюллетене оппозиции» Троцкий писал о том, что «недовольство военных диктатом Сталина ставит в повестку дня их возможное выступление». 9 апреля 1937 года начальник ГРУ Красной Армии С. Урицкий сообщал Сталину и Ворошилову о том, что в Берлине ходят слухи об оппозиции советскому руководству среди военачальников страны.
