Седьмого июля 1945 года аппараты уполномоченных НКВД СССР на фронтах были ликвидированы. После отвода союзных войск к определенным соглашениями границам, в советской зоне оккупации Германии оперативно-разыскная работа велась подразделениями уполномоченного НКВД СССР по Группе советских оккупационных войск (ГСОВ).
Во всех германских землях и округах советской зоны ответственности были организованы оперативные сектора, а в 35 городах — оперативные группы НКВД. Во избежание параллелизма в работе, уполномоченный НКВД по 1-му Белорусскому фронту И. А. Серов добился, чтобы органы «Смерш» ГСОВГ не вели работу по армейскому окружению, а осуществляли только контрразведывательное обеспечение самих частей. В восьми оперативных секторах проходили службу 282 оперативных работника из НКВД, НКГБ и ГУКР «Смерш» НКО СССР, каждому сектору были приданы по одному батальону из состава 57-й дивизии Внутренних войск НКВД СССР.
«Я… никогда не думал, что после 42 лет службы партии и Родине одна допущенная ошибка на чаше весов перетянет весь труд моей жизни. Не думал также, что мне придется доказывать, что я не уклонялся в годы Отечественной войны от выполнения священного долга защиты моей Родины, что я не случайный человек в партии и в армии, что я отдаю все силы и здоровье на благо строительства нашего коммунистического общества»[279].
Начальник ГУКР «Смерш» НКО СССР В. С. Абакумов получил от руководства страны персональное указание о том, чтобы в Германии органы армейской контрразведки оказывали помощь аппаратам уполномоченного НКВД СССР при ГСОВГ, для чего из состава УКР «Смерш» ГСОВГ и расформированных аппаратов уполномоченных НКВД СССР по 2-му Белорусскому и 1-му Украинскому фронтам выделили до 300 оперативных сотрудников. Ситуация в секторах Германии требовала не только ведения оперативно-разыскных мероприятий, но и предупреждения враждебных акций по отношению к администрации и советским представителям.
Теперь — немного о контрразведке «Смерш» других наркоматов.
Управление контрразведки «Смерш» НК ВМФ было сформировано на основе 9-го (морского) отдела УОО НКВД СССР, переданного в подчинение наркомата. Начальником УКР «Смерш» был назначен комиссар госбезопасности П. А. Гладков; подразделения «Смерш» комплектовались за счет оперсостава бывшего 9-го отдела и спецотбора военнослужащих из числа командного и политического состава ВМФ, им присваивались воинские звания, установленные на флоте. Аппарат управления состоял из четырех отделов, следственной части, отделений шифросвязи, оперативной техники и вспомогательных подразделений.