Проверенный и немного обученный в резерве агент направлялся в соответствующую резидентуру, где и начинал постепенно работать под руководством старых и более опытных агентов. Резидентуры создавались в обязательном порядке в городах, крупных деревнях и селах, на железнодорожных станциях и в местах пересечения шоссейных и больших дорог.
В городах могло быть, в зависимости от их значения, по 2–3 резидентуры. Например, в Красногвардейске (Гатчине) было две резидентуры, так как там находился самый крупный в Ленинградской области свободный базар.
Во главе резидентуры стоял резидент — обычно старый и проверенный агент или же агент, особо отличившийся в работе. Резидент получал задания по разработкам из штаба Абвер-офицера, но вел дела по своему усмотрению, предоставляя в штаб еженедельную сводку о своей работе. Перед штабом он отчитывался и в полученных им деньгах и в товарах. Резидент оплачивал труд агентов, по его предложению они получали дополнительное вознаграждение или же подвергались наказанию.
В распоряжении резидента было обычно от 10 до 20 штатных агентов, а также неограниченное количество завербованных им секретных осведомителей. Эти осведомители не получали какого-либо определенного жалования или пайка и не подписывали обязательство о работе в Абвере. Формы их вознаграждения были различными. За принесенные сведения им давали деньги, водку, табак, одежду или же просто освобождали от работы, а иногда предоставляли различные льготы (например, разрешение открыть какой-нибудь магазин, перевозить товары и т. п.)
Резидент жил совершенно законспирированно, обычно в отдельном домике, купленном для него в деревне. В городе же, напротив, он проживал в большом доме, в котором было много жильцов и где советской разведке было бы труднее организовать за ним наблюдение. При резиденте жили 2–3 агента. Один из них передавал другим агентам распоряжения резидента, а второй агент был писарем, вел всю отчетность, писал по указаниям резидента донесения в штаб Абвера. Третий агент являлся телохранителем резидента.
Каждый агент имел особое удостоверение для немецких властей (с фотографией) и специальное разрешение на ношение оружия — от пистолета до автомата и ручных гранат. Свое удостоверение агент мог показывать только в самом крайнем случае и только офицеру. Если агенту грозила опасность попасть в руки советской разведки или партизан, то он был обязан уничтожить свое удостоверение. Д. Каров утверждает, что имелись неопровержимые данные о том, что «с осени 1941 г. и до конца 1942 г. советской разведке не удалось получить ни одного такого удостоверения». Проверку работы резидентов осуществляли специальные агенты-контролеры и офицеры Абвера.
Главной задачей агентов-контролеров была проверка поведения и личной жизни резидента и его агентов, т. е. выяснение вопросов злоупотреблений по отношению к местному населению, корыстного использования своего положения, случаев ложных доносов с целью вымогательства и шантажа. Контролеры-агенты доносили о результатах своих наблюдений в штаб Абвер-офицера, который принимал соответствующие меры. Если проступки были не очень серьезными и не носили политически вредного характера, резиденты переводились в другую менее важную резидентуру или на менее ответственную работу. Если же устанавливалось, что резидент за взятки отпускал подозрительных лиц или старался запутать следствие по какому-нибудь крупному делу, то его ликвидировали, не разглашая этого факта.
Все служащие разведки и контрразведки — как немцы, так и русские — подлежали внесудебной ответственности перед своим высшим начальством и об этом предупреждались перед поступлением на работу. Например, осенью 1942 г. офицеру 18-й армии майору Альману было предложено застрелиться в наказание за допущенные им ошибки, что он и сделал через 24 часа после полученного из штаба фронта предложения. Тех, кто не хотел кончать с собой, уничтожали. Иногда провинившихся резидентов отправляли на фронт на наиболее опасные участки. Если им сопутствовала удача и они возвращались с задания живыми, то их прощали.
Резидент обладал довольно большими полномочиями. С санкции Абвер-офицера он мог ликвидировать своего агента, если тот сильно провинился, казался подозрительным или разлагающе действовал на всю резидентуру. В целом, как уже отмечалось, немецкая разведка в первый год войны еще не имела общей доктрины своей работы. Она только еще вырабатывалась на основе опыта оккупации советских районов. Никакие примеры работы на Западе нельзя было механически перенести на Восток: