О. прибыл в Мадрид в тяжелый момент для республиканского правительства, которое вело подготовку к эвакуации из столицы. Однако вовремя подоспевшая помощь СССР в виде боевой техники и подготовленных кадров не позволила франкистам захватить Мадрид. В этих условиях О. разворачивает активную деятельность. Осенью 1936 г. на него была возложена обязанность организовать эвакуацию испанского золота на хранение в СССР (по мнению советского руководства, в случае захвата Мадрида Франко расплатился бы золотым запасом с Гитлером и Муссолини за военную помощь). По личному указанию И.В. Сталина О. провел соответствующие переговоры с министром финансов республиканского правительства и получил от него принципиальное согласие на вывоз золота. Под личным контролем О. золото было погружено на четыре советских судна. После успешного завершения «золотой операции» О. не менее активно принялся за создание эффективных средств разведки и контрразведки республиканской Испании.
В скором времени в полную мощь заработала Служба военных расследований, которая под контролем О. занялась прежде всего чисткой госаппарата и армии. В арсенал службы входили самые радикальные меры, включая расстрелы. Репрессии вызвали возмущение членов республиканского правительства, которое потребовало отзыва О. как их главного инициатора. Конфликт был улажен после того, как О. доложил детально об арестованных и репрес сированных лицах, среди которых были агенты резидентур французской, итальянской, немецкой и английской разведок. Одновременно О. успешно руководил проведением партизанских операций в тылу противника. Были созданы учебные лагери в Валенсии, Барселоне, Бильбао и др. городах. Отряды партизан проникали до 300 км в глубь оккупированной фашистами территории, сковывали действия крупных военных формирований врага. По мнению специалистов, активные партизанские действия позволили республиканцам удерживать военную инициативу весь 1937 г.
Руководимая О. резидентура и он лично продолжали сбор информации политического и военного характера, при этом их вербовочные акции всегда отличались смелостью и дерзостью. Кроме вербовки агентуры О. проводил негласный набор бойцов в интернациональные бригады, которые отлично зарекомендовали себя в боях с франкистами. Сохранились воспоминания одного из таких лиц — К. Хенкина, пробравшегося из Франции в Мадрид для участия в борьбе с фашизмом. Он попал на прием к О., о чем вспоминал впоследствии: «Когда меня провели в комнату, Орлов сидел довольно далеко от меня. Я поразился, насколько тщательно он ухаживал за собой. Он только что побрился и сбрызнул себя одеколоном. На нем была утренняя одежда: фланелевые брюки и шелковая сорочка без галстука. На поясе в открытой замшевой кобуре виднелся пистолет «вальтер» 7,65 калибра. Вскоре слуга в униформе вкатил сервировочный столик. Орлов помазал маслом горячий подрумяненный ломтик хлеба, откусил кусочек и занялся яичницей с ветчиной, время от времени прихлебывая кофе. Он слушал меня рассеянно, иногда задавал вопросы, чтобы смутить меня… Что касается меня, то я изо всех сил старался не пялиться на еду, — не для того, чтобы скрыть, что я голоден, а чтобы не утратить достоинства. Целые сутки у меня не было крошки во рту. Подобрав яичный желток булочкой и допив кофе, Орлов вынул пачку американских сигарет, закурил и, показывая, что разговор закончен, сказал: «Мы с вами свяжемся»».
Ключевую роль О. сыграл в разработке и пресечении деятельности троцкистских и анархистских групп. Ему удалось внедрить свою агентуру в ПОУМ (Рабочая партия марксистского единства), стоявшую на крайне левой троцкистской платформе, а также в Федерацию испанских анархистов. По инициативе ПОУМ Л.Д. Троцкий был приглашен в Барселону, чтобы возглавить свержение «буржуазной демократии» республиканцев. Особое внимание О. уделял контролю за поведением лидера ПОУМ Андрэу Нина, близкого соратника Л.Д. Троцкого. Особую активность ПОУМ проявляла в период чистки в СССР рядов ВКП(б) от троцкистских элементов, как бы бросая вызов советскому режиму.
О. удалось получить упреждающую информацию о подготовке лидерами ПОУМ вооруженного мятежа в Барселоне. Более того, он получил достоверные данные об участии в подготовке мятежа германской агентуры.
Мятеж начался в мае 1937 г., однако был жестоко подавлен. После этого О. организовал физическое устранение лидера ПОУМ.
Весной того же года службы, руководимые О., выявили и арестовали в Мадриде разветвленную агентурную сеть фалангистов. Было арестовано 270 человек, изъяты 2 радиостанции с шифром, копии донесений о расположении республиканских войск, большое количество оружия и взрывчатки.
В июле 1938 г. О. получил телеграмму из Москвы. Ему приказывали выехать в Бельгию, где в порту Антверпена его будет ждать пароход, на котором будет проведено совещание по поводу нового важного задания.
О., и не без оснований, решил, что в Бельгии его ожидает не совещание, а арест (массовые чистки и репрессии в отношении сотрудников советских спецслужб в СССР продолжались).