Что касается Федора, то после отзыва в Москву он в 1937 году выезжал в Голландию, где установил контакт с бывшим разведчиком одной из западных стран, проживавшим в Германии, и привлек его к работе на Советский Союз. От источника поступали весьма важные материалы, которые освещали главным образом вопросы строительства военных судов, аэродромов и посадочных площадок в Германии.
В начале 1938 года в связи с предательством Вальтера Кривицкого Федор вновь был отозван в Москву. 27 мая 1938 года он был арестован и находился под следствием до июня 1939 года. Причиной ареста была его совместная работа с репрессированными сотрудниками ИНО Гордоном и Силли, а также рекомендации, которые ему ранее дали репрессированные к тому времени Дерибас и Смирнов. Лишь в июне 1939 года он был освобожден из заключения по указанию Берии. Как ни странно, этому способствовали письма «Марты» к нему, а также то, что она продолжала по просьбе оперработника сотрудничать с советской разведкой. Обвинения в том, что Федор работал с «Мартой» «под колпаком» гестапо, также отпали как беспочвенные.
В 1940 году Парпаров был восстановлен в НКВД с присвоением звания майора госбезопасности, что соответствовало званию армейского полковника.
В конце 1940 года Ф.К. Парпаров выехал в Эстонию, где восстановил связь с «Эльзой», одним из ранее завербованных им агентов в германском министерстве иностранных дел. «Эльза» сообщила, в частности, о концентрации германских вооруженных сил на юго-восточном направлении и передала разведчику другие ценные сведения. Особо важное значение имела информация о наращивании Германией своих войск на югославской границе, которые затем были введены в эту страну для подавления народного восстания. Эта операция на три недели отсрочила нападение Германии на Советский Союз. Активная работа с «Эльзой» продолжалась до весны 1941 года. Позднее выяснилось, что «Эльза», подобно «Марте», пострадала во время бомбардировки Берлина английской авиацией, получила тяжелую контузию и скончалась в американской зоне оккупации.
С весны 1941 года Ф. Парпаров с «легальных» позиций выполнял ответственное задание Центра в Прибалтике. Война застала его вместе с семьей в Литве. Эвакуироваться пришлось под непрерывными бомбежками и под огнем немецких танков. С большим трудом разведчик добрался до Москвы. В июне 1941 года он был зачислен в состав Отдельной мотострелковой бригады особого назначения 4-го управления НКВД.
В октябре 1941 года Парпаров был возвращен во внешнюю разведку и направлен нелегальным резидентом в Швейцарию через Иран. Однако в апреле 1943 года у разведчика возникли проблемы со швейцарской визой, и он вынужден был возвратиться в Москву.
Ф.К. Парпарова вновь направили в распоряжение 4-го управления НКВД. Ему пришлось работать с генерал-фельдмаршалом Паулюсом, находившимся после разгрома его армии под Сталинградом, в плену в лагере под Суздалем. Как крупный специалист но Германии, после окончания войны Парпаров участвовал в подготовке Потсдамской конференции и Нюрнбергского процесса, на котором он представил фельдмаршала международным судьям, что вызвало сенсацию у присутствовавших на процессе журналистов. Затем участвовал в мероприятиях, связанных с организацией деятельности оккупационных властей в Германии.
В середине 1950-х годов Федор Карпович вышел в отставку. До кончины в 1959 году возглавлял военную кафедру в МГУ.
Как рассказывал сын Ф.К. Парпарова — Лев Федорович, находившийся вместе с отцом в Германии и работавший на Нюрнбергском процессе в качестве переводчика немецкого языка, Федор Карпович после войны стеснялся появляться на общественных пляжах, поскольку когда он снимал рубашку, на его спине были отчетливо видны рубцы и полосы от заживших ран. Они остались еще с того довоенного времени, когда отважный разведчик подвергался пыткам и истязаниям в ежовских застенках.
Лев Федорович Парпаров работал над книгой воспоминаний о своем отце, и разведка оказывала ему помощь в подборе интересующих его материалов. Однако довести до конца начатый труд ему не удалось. Преждевременная смерть, наступившая в результате сердечного приступа в 2001 году, оборвала работу. Книга осталась незавершенной.
15 июня 1996 года Указом Президента Российской Федерация за успешное выполнение специальных заданий но обеспечению государственной безопасности в условиях, сопряженных с риском для жизни, проявленные при этом героизм и мужество звание Героя России было посмертно присвоено замечательной советской разведчице-нелегалу Леонтине Коэн.
Несколько ранее, 20 июля 1995 года, такого же высокого звания был посмертно удостоен другой легендарный советский разведчик-нелегал Моррис Коэн — муж и боевой товарищ Леонтины.