Третьего июня в жилом доме сотрудников ОГПУ на улице Малая Лубянка в Москве боевики РОВС М. Захарченко-Шульц, Э. Опперпут-Стауниц и Н. Вознесенский заложили взрывное устройство весом четыре килограмма и зажигательные бомбы. А 6 июня Г. Радкевич бросил бомбу в бюро пропусков ОГПУ в Москве. Седьмого июня В. Ларионов, С. Соловьев и Д. Мономахов бросили две бомбы в здание Центрального партийного клуба на улице Мойка в Ленинграде. В этот же день в Варшаве белогвардеец Б. Коверда убил полпреда СССР в Польше П. Л. Войкова, имевшего дипломатическую неприкосновенность.
В Минске в результате диверсии погиб начальник ОГПУ Белоруссии И. Опанский. Двадцать второго августа недалеко от села Шуя в Карелии были арестованы два члена РОВС, направленные в СССР для совершения терактов.
Возможно, именно совокупность указанных выше и ряда других аналогичных событий послужила причиной того, что 30 июля 1927 года Иностранный отдел был выведен из состава Секретно-оперативного управления и передан в прямое подчинение Коллегии ОГПУ.
Также вероятно, что именно в это время нелегальный резидент ИНО в Париже Яков Серебрянский получает задание обратить самое пристальное внимание к сбору информации о деятельности РОВС, в том числе используя возможности одной из нелегальных ячеек Особой группы.
Успехи в налаживании нелегальной разведывательной работе были! Ведь недаром 18 декабря 1927 года Яков Исаакович награждается именным пистолетом системы Браунинга и грамотой ИНО ОГПУ. В 1928 году Яков Серебрянский вновь был награжден именным оружием (марка нам неизвестна).
Созданная Серебрянским в Палестине агентурная сеть продолжала активно работать в интересах безопасности СССР. Агабеков впоследствии писал:
«Палестинская агентура поддерживала связь с Берлином, но ОГПУ считало руководство Палестиной из Берлина нецелесообразным и заставило Гольденштейна [в 1928 г.] передать все связи нелегальному резиденту в Константинополе Блюмкину. Одновременно велено было проверить агентуру с точки зрения ее преданности и целесообразности ее сохранения. <…>
В 1928 году Москва командировала в Константинополь Якова Блюмкина на должность нелегального резидента ОГПУ на всем Ближнем Востоке. Одной из основных его задач была организация агентуры в Палестине и выяснение создавшегося там положения. Особенно интересовали Москву вопрос об отношении палестинских евреев к англичанам и внутренние арабо-еврейские отношения. Блюмкин побывал в Палестине, завербовал там для работы бухарского еврея Исхакова и еще одного еврея, содержавшего в Яффе пекарню и ею прикрывавшего свою работу, но воздержался от установления связи с местными коммунистами до более близкого с ними ознакомления.
Агенты Блюмкина направляли свои донесения в Бейрут, к тамошнему агенту, а тот уже от себя пересылал их Блюмкину в Константинополь».
К началу марта 1929 года Я. И. Серебрянский возвратился из командировки во Францию. По итогам успешной (материалы опять засекречены!) работы в этой стране он был награжден знаком «Почетный работник ВЧК — ГПУ» за номером 644.
Серебрянский успешно прошел партийную чистку, объявленную в апреле 1929 года по решению 16-й партийной конференции.
Из воспоминаний Полины Натановны Серебрянской: «Нужно было вывезти важные документы. Факт их пропажи стал известен властям, и они организовали тотальную проверку всех выезжающих из страны. Осматривали они и купе вагона, в котором мы выезжали. Проверили чемоданы, а документы в это время просто лежали на столике, на который специально бросил их Яков».
Почти сразу же Серебрянский оказался вовлеченным в систему подготовки специалистов для «малой войны». Первого апреля 1929 года он был назначен начальником 1-го отделения ИНО, руководившего нелегальной разведкой. Эта должность позволила Серебрянскому иметь доступ к материалам нелегальных резидентур ИНО, оказывать влияние на подбор и расстановку резидентов и оперативников, изучать материалы, поступающие от агентуры.
Но официальная должность служила прикрытием еще более секретной (нелегальной внутри СССР) работы. По распоряжению Менжинского Серебрянский возглавил Особую группу при председателе ОГПУ. С этого времени среди людей посвященных она неофициально именуется «Группа Яши».
Первоначальной задачей независимого от ИНО разведывательно-диверсионного подразделения было глубокое внедрение агентуры на объекты военно-стратегического значения в Западной Европе, США и Японии, а также подготовка и проведение диверсионных операций в тылу противника в случае открытой войны этих стран с СССР.
За границей Особая группа действовала исключительно нелегально. Ее резиденты не могли использовать в качестве прикрытия официальные дипломатические или торговые представительства СССР. Опиралась она только на агентов, рекомендованных Коминтерном (из так называемого партийного спецназа) или завербованных членами группы, — это позволяло действовать практически автономно (подчеркнем еще раз, что даже в ОГПУ о существовании группы никто не знал).