Несмотря на явный неуспех посольства 1516–1518 гг., Герберштейн заслужил благодарность Максимилиана I, который полюбил коротать вечера за рассказами своего посла о Руссии. При этом обычно присутствовал секретарь императора Матвей Ланг, архиепископ зальцбургский, на которого рассказчик произвел сильное впечатление, и он настоятельно просил Герберштейна записывать свои истории. Герберштейн представил императору доклад, но тот, к досаде потомков, до них не дошел, и никто не может сопоставить объективные и четкие отчеты молодого посла по свежим следам с его же воспоминаниями спустя сорок лет.
В 1519 г. Максимилиан I умер. Герберштейн тяжело пережил потерю своего дорогого и доброжелательного господина. Однако император умер, а Габсбурги остались, и Герберштейн продолжал им преданно служить. Максимилиан I был популярен, многие подданные его искренне любили, но были и те, кто возмущался его правлением, произволом габсбургских чиновников и долгами, оставленными императором. В австрийских землях, и особенно в Вене, возникло возмущение, предпринимались даже попытки разгромить цейхгаузы, забрать оттуда оружие и вооружить толпу.
Чтобы восстановить спокойствие в стране, было снаряжено посольство от австрийских земель в Испанию к старшему внуку Максимилиана, Карлосу I, в котором видели в ближайшем будущем римского короля и императора Священной Римской империи Карла V. После тяжелого путешествия через Венецию, Рим, Неаполь, морем через Сардинию и Барселону посланники земель прибыли к испанскому двору. Им казалось, что молодой наследник пока ничем не заслужил почтительного обращения, и церемониться с ним не обязательно. Представитель Нижнеавстрийских сословий, обращаясь к Карлу, уже избранному римским королем, назвал его всего лишь «Ваша светлость», но не «Ваше Императорское Величество». Вдобавок он потребовал (потребовал!), чтобы между Карлом и братом его Фердинандом было заключено соглашение о разделе владений. Это был скандал. Мало того, что посланники бестактно вмешались в не касающиеся их династические дела, они еще выказали вопиющую невежливость.
Герберштейн, представлявший земли Внутренней Австрии, быстро и недвусмысленно отделил себя от своих спутников. Он искренне полагал, что к правителям не следует обращаться в подобном тоне и с подобными претензиями. Одновременно, как умный человек, начитавшийся в свое время в университете древних авторов, он знал, какова может быть участь незадачливых и зарвавшихся послов. О своих коллегах по посольству он позже говорил, что они вели себя как крестьяне в пивной. За это их, во всяком случае восьмерых главных зачинщиков, Карл V позднее предал суду и казнил.
Австрийское посольство в Испанию сыграло важную роль в судьбе Герберштейна. Он четко обозначил свою позицию по отношению к наследникам Максимилиана I, подчеркнул свою лояльность и преданность габсбургскому престолу и обоим братьям, Карлу и Фердинанду. Единственное, чего он желал, как земельный представитель, чтобы новые правители подтвердили земельные права и свободы. И Карла, и Фердинанда устраивала позиция Штирии, Каринтии и Крайны, и с тех пор Герберштейн навсегда вошел в число наиболее доверенных лиц наследников Максимилиана I. Именно здесь следует искать исток его будущей великолепной карьеры.
Примерно в это время он стал именовать себя на немецкий лад Зигмундом, отказавшись от латинизированной и, одновременно, славянизированной формы своего имени Сигизмунд.
Карл V, на время правления которого пришлась основная доля службы Герберштейна-дипломата, не слишком интересовался австрийскими владениями Габсбургов. Они составляли малую часть его империи, в которой никогда не заходило солнце. Он был ее повелителем и занимался построением всемирной монархии. У Карла V было особое представление о своей миссии на земле. Он сам называл себя сложно: «Избранный император христианского мира и римский, присно Август, а также католический король Германии, Испаний и всех королевств, относящихся к нашим Кастильской и Арагонской коронам, а также Балеарских островов, Канарских островов и Индий, Антиподов Нового Света, суши в Море-Океане, Проливов Антарктического Полюса и многих других островов как крайнего Востока, так и Запада, и прочая; эрцгерцог Австрии, герцог Бургундии, Брабанта, Лимбурга, Люксембурга, Гельдерна и прочая; граф Фландрии, Артуа и Бургундии, пфальцграф Хеннегау, Голландии, Зеландии, Намюра, Руссильона, Серданьи, Цютфена, маркграф Ористании и Готциании, государь Каталонии и многих других королевств и владений в Европе, а также в Азии и Африке господин и прочая». Он видел себя руководителем и повелителем мировой политики, светским главой христианского мира, хранителем могущества католической церкви. Австрийскими делами должен был заниматься эрцгерцог Фердинанд.