Видимой, основной миссией Герберштейна был старый вопрос о примирении великого князя московского с Сигизмундом I. Одновременно он должен был продолжить свое исследование Московии, начатое десять лет назад: «Обязываем вас при каждом случае, к которому сами добавьте ваше старание и разум, тщательно исследовать содержание их веры и обычаи, дабы мы могли бы вникнуть в религию и обряды этого народа», — писал Герберштейну Фердинанд.
Герберштейн ехал в знакомые земли, в свите было несколько его кузенов, и он старался довезти свое посольство как можно быстрее, кратчайшим путем через Краков, Минск, Смоленск, Вязьму и Можайск на Москву. Однако дорога, на этот раз вся проложенная по твердому снегу, не оказалась легче предыдущей. Не легче были и переговоры с Василием III, в ходе которых окончательное примирение с Сигизмундом I так и не было достигнуто, было лишь заключено пятилетнее перемирие.
В течение полугода, проведенного в Московии, Герберштейн много сил и энергии вкладывал в подробное знакомство с Руссией и русскими. Он расспрашивал, кого мог, о разных областях Московии, изучал персону великого князя и его приближенных. При деятельной помощи переводчиков он штудировал летописи, делая пространные выписки, на основании которых по возвращении представил эрцгерцогу Фердинанду полный письменный доклад об истории и современном внутреннем и внешнем положении Московского государства, его хозяйстве и природе, ставший много позже основой для создания «Московии». В обязанности Герберштейна входило также наблюдение за работой членов посольства, и в своем отчете он был достаточно объективен и доброжелателен, во всяком случае, имперского посла не постигла судьба главы голштинской дипломатической миссии, посетившей Москву лет сто спустя. Вторым лицом в том посольстве был автор известных записок о Московии Адам Олеарий, и по материалам его отчета первый посол был казнен.
Рассказ о пребывании Герберштейна в Москве читался как увлекательный роман. Однако представления западных европейцев о Руси были истинной tabula rasa, и на чистой доске их памяти Герберштейн мог писать все, что угодно. Ни в первый, ни во второй раз ему, похоже, не удалось постичь до конца подлинный характер русских. В «Московии», как и в «Автобиографии», нельзя прочесть, что за скрупулезной требовательностью русских к иностранным послам стоит понимание важности соблюдения дипломатического протокола, который один позволяет избегать двусмысленности и неоднозначности толкований; за безудержностью в деловых переговорах и следующих за ними застольях стоит умение не смешивать работу и досуг; за уступчивостью в мелочах кроется не слабость, а спокойная уверенность византийцев, осознающих себя наследниками великой культурной империи недавнего прошлого, по отношению к австрийцам, не овладевшим пока тонкостями придворного этикета.
По возвращении из Московии Герберштейн много занимался османскими делами. В 1526 г. в битве с турками при Могаче пал венгерский король Людовик, и его корона перешла к Фердинанду. Венгерское королевство раздирали мятежи магнатов, с конца 1520-х гг. на него гигантскими волнами накатывались турки. 120 тысяч воинов-османов под стенами Вены в 1529 г. остались в памяти Фердинанда как страшный сон. С перерывами на походы в Персию, Тунис, Месопотамию, Закавказье Сулейман постоянно возвращался в Венгрию и Австрию. И император, и эрцгерцог австрийский, который первым должен был принять удар османов, готовых идти на Запад, стремились остановить его.
Во время очередного османского вторжения в Венгрию, в 1541 г., в военный лагерь к Сулейману Великолепному был послан Герберштейн. Свою поездку к самому знаменитому султану Османской империи Герберштейн выделял особо и по праву ею гордился.
От имени султана с послом беседовал его паша, чиновник по внешним сношениям, словенец по происхождению; переговоры велись на словенском языке. В поездке Герберштейна сопровождал граф Николай фон Зальм-Рейффершейтд, имперский полководец, успешно оборонявший Вену в 1529 г. Герберштейн провел переговоры искусно, он сумел остановить турецкое вторжение, хотя и не предотвратил раздела венгерских земель.
