И тем не менее Л. М. Карахан мог быть доволен своей деятельностью. С Китаем и Японией были установлены дипломатические отношения, заключен ряд соглашений по другим вопросам. Советская политика поддержки национально-освободительной борьбы китайского народа давала свои плоды.
В мае 1926 года маньчжурский милитарист Чжан Цзолинь накануне вступления его войск в Пекин вручил советскому консулу в Мукдене ноту с угрозой, что он не отвечает за личную безопасность советского полпреда, если тот не уедет из китайской столицы. Л. М. Карахан не поддался на этот шантаж и, проявляя личное мужество, остался в Пекине.
Однако во избежание дальнейших осложнений с мукденским правителем Чжан Цзолинем. обосновавшимся в Пекине, Советское правительство решило три месяца спустя отозвать Л. М. Карахана из Пекина. Он выехал 10 сентября 1926 года в Москву «в отпуск» и Уже больше не вернулся в Китай. Л. М. Карахан занял свой прежний пост заместителя наркома, на который был назначен еще в ноябре 1925 года, и начал вновь заниматься всеми вопросами отношений СССР со странами Востока.
Дипломатическая деятельность Л. М. Карахана продолжалась ровно 20 лет. Он многое сделал для укрепления внешнеполитического положения первого в мире государства рабочих и крестьян.
В начале 30-х годов он во главе советских правительственных делегаций нанес официальные визиты в Иран, Турцию, Монгольскую Народную Республику. В 1934–1937 годах был полпредом СССР в Турции.
Начавшаяся в середине 30-х годов волна необоснованных массовых репрессий захлестнула и его.
По возвращении из Турции в начале мая 1937 года Л. М. Карахан был арестован и 20 сентября того же года расстрелян. Репрессии, развязанные И. В. Сталиным, нанесли большой урон советской дипломатии и ее лучшим кадрам, значительно ослабили внешнеполитические позиции СССР.
В документе, выданном в 50-х годах дочери Л. М. Карахана Ирине Львовне, говорится:
«Военная коллегия Верховного Суда Союза ССР
20 декабря 1956 г.
Дело по обвинению Карахана Льва Михайловича пересмотрено Военной коллегией Верховного Суда СССР 12 декабря 1956 г.
Приговор Военной коллегии от 20 сентября 1937 г. в отношении Карахана Л. М. по вновь открывшимся обстоятельствам отменен и дело за отсутствием состава преступления прекращено.
Карахан Л. М. посмертно реабилитирован…»
Имя Л. М. Карахана не забыто. Оно живет в книгах, кинофильмах и в памяти людей.
1 февраля 1989 года в Москве на доме 21/5 по улице Кузнецкий мост, где находился Наркомат иностранных дел СССР, по решению Советского правительства и Моссовета состоялось торжественное открытие мемориальной доски, приуроченное к 100-летию со дня рождения Л. М. Карахана.
«Любитель парадокса», «ценнейший работник», «наш милый, талантливый и ценнейший т. Сокольников»
