Когда он, опозоренный и униженный, возвращался назад в Ломбардию, то раскаялся, что не воспользовался раньше расположенными к нему ломбардскими силами. По возвращении домой, в Германию, Генрих застал другого короля, Рудольфа Швабского. Началась трехлетняя междоусобная война. Папа мог бы признать Рудольфа, но в его практических расчетах было ослабить обоих соперников. Папские легаты не высказывались открыто ни в пользу того, ни другого: «Они носились от Рудольфа к Генриху, — говорит Бруно, — обнадеживая обоих и, по обычаю римлян, набивая себе карманы деньгами». Когдаже Генрих был разбит под Мюльгаузеном, папа решился поддержать Рудольфа и послал ему корону с надписью:
Временная удача императора. Тогда Генрих, собрав собор в Майнце, повторил низложение Григория, в присутствии девятнадцати епископов, к которым затем в Бриксене присоединилось еще тридцать итальянских епископов. Здесь избрали папой на место Григория архиепископа Гвиберта Равеннского, под именем Климента III. Таким образом, явилось два короля и два папы. После битвы под Цейцем (на месте славянских Жицей) Рудольф умер от раны, которую, как говорят, нанес ему Готфрид Бульойнский, рыцарь из Нижней Лотарингии. Генрих, хотя был разбит, но чувствовал себя счастливым; он передал Швабию зятю, мужу Агнессы, Фридриху, который перенес свою резиденцию, находившуюся сперва у подножия горы Штауфен, на вершину этой горы и прозвал свой замок Гогенштауфеном. Отсюда ведет свое начало знаменитый дом, будущая императорская династия. После смерти Фридриха Агнесса была выдана за австрийского маркграфа Леопольда (из Бабенбергеров). Император, таким образом, вступил в родство с владетелями двух обширных областей. Благодаря Агнессе Генрих заключил мире Швабией и Австрийской маркой; он приобрел себе в них союзников. Больше Генриху не к кому было обратиться. Тем не менее в 1081 г. он мог повести на Рим значительное войско; он думал сокрушить Григория силой, но ошибся. Три года немцы вместе с римлянами осаждали замок Св. Ангела, где заперся папа, отказываясь от всяких переговоров с отлученным королем. Тогда немцы провозгласили Григория VII низложенным. Вместо него под императорским давлением был избран конклавом Виктор III. Генрих IV должен был войти в соглашение с новым папой, который, наконец, в 1084 г. короновал его императорской короной. Более Генриху не суждено было видеться с Григорием, которого продолжали осаждать в замке сами римляне. Сицилийский герцог из норманнов, Робер Гвискар, пришел спасти Григория; он взял Рим, сжег значительную, опустелую и обезлюдевшую с тех пор часть столицы, пригласил папу с собой в Салерно, где знаменитый деятель жил под защитой норманнских щитов.
В годины своего унижения Гильдебранд не чувствовал себя побежденным. Григорий не думал о примирении; он хотел выиграть дело полностью, хотел увидеть у ног своих императора, хотел навсегда уничтожить в духовенстве браки и симонию. Умирая, он оставался тем же гордым, решительным, неукротимым. Этот невзрачный, черный человек, с резкими чертами лица, угрюмый, был таким же обаятельным в последние дни, как всегда. Современники, в том числе и духовные, полагали, что Григорий действует не иначе, как в союзе с дьяволом. Лично папа был побежден, но он уносил с собой горделивое сознание в том, что его дело восторжествовало. Потому-то, предвидя торжество папства в будущем, он завещал назвать своего преемника Виктором, указывая при этом на аббата Монтекассинского монастыря, Дезидерия. Умирая, Григорий простил всех своих личных врагов и снял с них проклятие, но не простил врагов церкви, не простил врагов того дела, на которое он положил богатые силы своего духа. Находясь под могучим покровительством герцога Робера, дикое зверство которого не раз приходилось укрощать Григорию, папа созвал собор в Салерно. Здесь он наложил новое проклятие на императора и смело послал особого нунция, епископа Оттона в Германию, чтоб поставить об этом в известность всю империю. В январе 1085 г. папа заболел от постоянных тревог и волнений. Видимо, силы его слабели. Чувствуя приближение смерти, он старался внушить окружающим ту бодрость духа, которая никогда не покидала его и которая теперь была еще сильнее. Он говорил им о необходимости стоять за идею чести и долга. Этот долг он видел в борьбе за высшие интересы нравственности и религии.
Было воскресенье 25 мая 1085 г., день, празднуемый и поныне католической церковью, когда в Салерно умирал Григорий. Его окружал тесный кружок фанатически преданных ему людей. Кидая на них угасавшие взоры, он закончил свою жизнь следующими словами: «Я любил правду и ненавидел несправедливость, а потому умираю в изгнании (
