Следствие по делу Серебрянского было поручено начальнику 2-го отделения 2-го (Секретно-политического) отдела ГУГБ В. С. Абакумову. Первый раз Яков Исаакович был допрошен 13 ноября 1938 года, однако необходимых признательных показаний от него добиться не смогли. На протоколе допроса имеется резолюция Л. П. Берии: «Тов. Абакумову! Хорошенько допросить!» После этого к Якову Исааковичу стали применять «интенсивные методы» дознания. Как позднее рассказывал сам Серебрянский, 16 ноября 1938 года на допросе у Абакумова с участием начальника 2-го отдела ГУГБ Б. З. Кобулова и наркома Берии его жестоко избили, и, спасая жизнь, он вынужден был дать ложные показания о своей «антисоветской деятельности». На допросах Яков Исаакович называл вымышленные фамилии — это позволяло тянуть время и не бросать тень подозрения на тех, кто действительно работал с ним.
С 5 декабря 1938 года, после назначения Виктора Абакумова начальником Управления НКВД Ростовской области, следствие по делу Серебрянского поочередно вели С. Р. Мильштейн, П. И. Гудимович и П. А. Перепелица. Двадцать пятого января 1939 года Якова Исааковича перевели из Лубянки в Лефортовскую тюрьму. До 13 февраля, то есть более трех месяцев после ареста, он содержался под стражей без санкции прокурора! Еще через две недели, 21 февраля, Серебрянский был уволен из органов НКВД «по факту ареста».
Полина Серебрянская впервые была допрошена 28 февраля 1939 года (!). Ее обвиняли в недонесении на собственного мужа.
«В марте 1939 года, когда я стал заместителем начальника разведки НКВД, — вспоминает П. А. Судоплатов, — одной из моих главных задач было внедрение нелегалов в Западной Европе и создание агентурной сети, связанной с немцами, имевшими дипломатическое прикрытие. Особенно это касалось Германии, являвшейся центром внимания всей нашей работы. После репрессий 1937–1938 годов германскими делами в разведке стали заниматься новые люди, и наши контакты с агентами оказались временно прерванными.
Было принято решение резко активизировать эти контакты. Бегство Александра Орлова в 1938 году бросило подозрение на руководящие кадры Иностранного отдела; арестовали Шпигельглаза, Малли, Белкина, Серебрянского и других сотрудников, контролировавших наши агентурные сети в Западной Европе, что существенно затруднило получение разведывательной информации. Когда я возглавил этот участок, мне пришлось посылать за рубеж новых и зачастую неопытных людей. В результате с ноября 1938-го по март 1939-го поступление разведданных из Западной Европы резко сократилось».
Возможно, это покажется парадоксальным, но спасением для Павла Анатольевича Судоплатова стал именно арест Я. И. Серебрянского и почти всех членов его группы, находившихся в СССР. Опытных кадров, способных грамотно организовать диверсионную или террористическую операцию за рубежом, катастрофически не хватало! В этих условиях Л. П. Берия решил поручить руководство операцией по ликвидации Троцкого человеку, имевшему удачный опыт ликвидации Е. Коновальца. После приема у Сталина в марте 1939 года Судоплатов был утвержден заместителем начальника разведки НКВД и приступил к подготовке операции «Утка».
Но в ряду трагических событий были и светлые моменты. В «несчастливый» день 13 мая 1939 года во внешней разведке НКВД произошло очередное и на этот раз весьма благоприятное изменение: начальником 5-го (Иностранного) отдела ГУГБ был назначен П. М. Фитин.
Одним из участников операции «Утка» был Иосиф Григулевич. Иосиф Ромуальдович Григулевич (Юозас Григулевичус) родился 5 мая 1913 года в Вильно, в семье Ромуальда Григулевичуса и Надежды Лаврецкой, литовских караимов. В 1922 году поступил в гимназию города Паневежиса. В 1924-м отец Григулевича эмигрировал в Аргентину, а Юозас с матерью переселилися сначала в Тракай. а затем в Вильно, где в 1926 году тринадцатилетний подросток вступил в нелегальный Коммунистический союз молодежи. В 1930 году Григулевич стал членом Коммунистической партии Польши, с 1931-го вошел в состав Литовского бюро КП Западной Белоруссии. В 1931–1933 годах находился в тюрьме по обвинению в принадлежности к КПЗБ. В 1933 году Иосиф Григулевич эмигрировал во Францию, где поступил на учебу в Высшую школу социальных наук при Сорбоннском университете. Одновременно он начал работать во французском отделении Международной организации помощи борцам революции (филиал Коминтерна). Именно тогда он прошел специальную подготовку в одной из нелегальных коминтерновских спецшкол.
В 1934 году Григулевич командируется Коминтерном в Аргентину (Буэнос-Айрес) для работы по линии МОПР; там он пробыл до сентября 1936 года. За это время Мигель — его подпольный псевдоним — сумел заложить основы нелегальной инфраструктуры и создать костяк будущей боевой группы. Прикрытием для него являлась организационная работа в Компартии Аргентины по линии «Красной помощи».