В 1923 году Аллахвердов был переведен на работу в Москву, в Восточный отдел ОГПУ, созданный в конце 1922 года для чекистской работы в Башкирии, Казахстане, Средней Азии, Закавказье, а также в прилегающих к ним Турции, Иране, Афганистане, Китае. Работая в отделе, Михаил без отрыва от оперативной деятельности окончил в 1925 году заочное отделение Восточного факультета Военной академии РККА. Владел армянским, узбекским, персидским, турецким, французским и английским языками.
В 1925 году Аллахвердов был направлен в долгосрочную командировку в Персию (с 1935 года – Иран). До 1928 года являлся оперативным сотрудником резидентуры ИНО ОГПУ в Керманшахе. Хорошее знание иностранных языков, большая трудоспособность способствовали успешной работе разведчика. Он приобрел необходимые источники информации в интересующих внешнюю разведку кругах, вел активную работу по проникновению в эмигрантские антисоветские организации. В 1928 году Аллахвердов возглавил резидентуру внешней разведки в Персии. С территории Персии в тот период против нашей страны действовали польская, турецкая, германская и японская разведки. Аллахвердов вел кропотливую работу по приобретению квалифицированной агентуры, способной проникнуть в спецслужбы противника, принимал активные меры по разложению антисоветской эмиграции.
С 1930 по 1933 год работал в центральном аппарате разведки.
С приходом Гитлера к власти в Германии и обострением обстановки в этой стране руководство внешней разведки принимает решение о направлении Аллахвердова на нелегальную работу в Европу. В 1933–1934 годах он возглавляет нелегальные резидентуры в Австрии, Швейцарии и Франции. В середине 1934 года назначается «легальным» резидентом внешней разведки в Афганистане.
В 1936 году Центр переводит Аллахвердова из Кабула в Турцию. Возглавляемый им разведывательный коллектив проделал большую работу по выявлению подрывной деятельности иностранных разведок против нашей страны, в первую очередь – германской, английской и японской. Резидентура провела ряд успешных операций по пресечению антисоветских акций со стороны эмиграции.
С 1938 года Аллахвердов находился на руководящей работе в центральном аппарате внешней разведки. С началом Великой Отечественной войны он вновь направляется резидентом НКВД в Афганистан.
После нападения фашистской Германии на СССР спецслужбы Германии, Италии и Японии в Афганистане перешли к активным действиям против Советского Союза. На советско-афганской границе летом 1941 года сложилась тревожная ситуация: вновь возникла серьезная опасность возобновления басмаческих набегов на нашу территорию. Одновременно агентура стран «оси» в Кабуле приступила к подготовке вооруженного антибританского мятежа кочевых пуштунских племен, имевших под ружьем более 400 тысяч человек.
Из истории советской внешней разведки известно, что с началом Великой Отечественной войны между СССР и Великобританией было достигнуто соглашение о сотрудничестве разведок двух стран в борьбе против нацистских спецслужб. В соответствии с этим соглашением резидент НКВД в Афганистане Аллахвердов установил рабочие отношения с представителями британской разведки в Кабуле. Полученная от них информация о том, что абвер приступил к заброске на советскую территорию диверсионных групп, сформированных из эмигрантов, была своевременно передана в Москву. Все группы были обезврежены. Одновременно резидент проинформировал Центр о том, что немецкая разведка планирует высадить в среднеазиатских советских республиках, в первую очередь в Туркмении, диверсионные отряды, сформированные из солдат и офицеров «Туркестанского легиона». Для подготовки диверсантов в Польше, близ Вроцлава, была создана секретная тренировочная база «Лесной лагерь СС-20».
Кабульская резидентура НКВД получила информацию и о том, что Берлин потребовал от резидента абвера в Афганистане создать в Туркмении подпольную националистическую организацию. При этом немцы были уверены, что туркменские эмигранты в Афганистане смогут вооружить 11 тысяч басмачей. В декабре 1941 года лидер туркменского басмачества Кызыл Аяк приказал своим сторонникам готовиться к вторжению в советскую Среднюю Азию уже летом 1942 года. Германское посольство в Кабуле обещало обеспечить басмачей оружием и лошадьми.
Резидентуре советской внешней разведки в Кабуле удалось раскрыть сеть германской агентуры в Афганистане и в тесном взаимодействии с британской разведкой парализовать деятельность германских, японских и итальянских спецслужб в этом регионе (операция «Мародеры» – так в оперативной переписке с Центром называлась агентурная сеть германской разведки, действовавшая в военные годы в Афганистане). В результате объединенных усилий советской и британской разведок были также предотвращены подготавливаемый нацистами переворот в Кабуле и введение германских войск в Иран и Афганистан.
