Едва ли Генрих IV желал вновь избежать конфликта, который готова была развязать большая часть его духовенства. Организованное сувереном в январе 1076г. собрание в Вормсе состояло в основном из прелатов, а не из представителей мирской власти. Большинство из присутствовавшего духовенства сразу пришло к соглашению с монархом. Тон документа, отправленного в Рим, был грубым. «Брата Гильдебрандта, за которого выступил «женский сенат» /намек на императрицу Агнессу и графинь Беатрису и Матильду Тосканских/, назвали узурпатором, и сеятелем смуты. «Изыди! Изыди», – призывали Гильдебранда, основываясь на власти, которую давал Генриху статус патриция. Текст, распространяемый в Германии, был менее резким; он отрицал право «лжемонаха», как и всех остальных, судить своего суверена. Епископы не противились реформе, но считали недопустимым вмешательством приказания епископам Майнца, Кельна и Магдебурга. Трудно было заставить принять священников обет безбрачия. Возмущенные декретом папы, они заявляли, что скорее откажутся от своего сана, чем от жен.
На самом же деле единство антиримского фронта было лишь видимостью. Расколы проявились сразу как только папа освободил подданных от присяги верности в 1076г. Григорий VII низложил, а затем отлучил от церкви Генриха IV. Затем произошло событие, которое можно было воспринять как кару небесную. На Пасху в присутствии короля, облаченного в одежду для коронации, была провозглашена анафема Гильдебранду, но вечером того же дня молния ударила в собор и резиденцию государя, превратив их в пепелище. Сразу же начались переходы на сторону неприятеля. Архиепископ Трира пытался достичь соглашения, а епископ Майнца перешел в лагерь папы. Пибон Тульский скрылся, чтобы не провозглашать порицание Григория VII.
События приняли другой оборот, когда на собрание в Аугсбурге 2 января 1077г. высшая знать пригласила папу и обязалась не признавать Генриха IV, если он не получит отпущения грехов в течение последующего года. Так вырисовывался союз всегда беспокойной высокой аристократии и папства, чью силу показал Григорий VII. Теперь следовало любой ценой избежать объединения этих двух сил. Генрих решил переправиться в Италию до того как папа решит поехать в Германию. Он прошел в лютую стужу через Альпы и в конце января босой, в позе кающегося грешника взывал к Григорию VII о прощении. Понтифик предоставил помилование, но взамен получил согласие на свой приезд в Германию, чтобы самому разрешить спор между сувереном и князьями. После встречи в Каноссе Григорий объявил, что Генрих IV есть король /
Борьба между «двумя половинами Господа» вошла в новую фазу. В марте 1077г. три архиепископа Германии совместно с высшей знатью низложили Генриха IV, поставив вместо него швабского герцога Рудольфа Райнфельдена. Так аристократия еще раз шагнула навстречу папскому престолу, но Григорий VII не сразу принял её помощь. Его противник в 1080г. в угрожающем тоне потребовал отлучения Рудольфа от церкви. Но король остался низвергнутым, и упорствовавшему грешнику снова грозило отлучение. Однако, совершая этот резкий ход, Григорий допустил политический просчет. От него отвернулось много епископов и несколько кардиналов. На епископском синоде в Бриксене в июне 1080г. Григория низложили, а Генрих назначил на пустующий престол преемников Петра архиепископа Равенны Гвиберта.
15 октября 1080г. Рудольф одержал победу над императорскими войсками в битве при Вайсе-Эльстере, но там же его настигла смерть. Король дошел до южной части Италии, одержал победу над армией графини Матильды и сразу же в 1083г. обосновался в Риме. Гвиберт стал Климентом III и тут же короновал Генриха IV императором на Пасху 1084г. Григорий VII нашел пристанище в замке Св. Ангела и был освобожден нормандцами, но в результате устроенной ими резни внезапно потерявший популярность папа был вынужден вместе с ними покинуть город. В их окружении он умер в мае следующего года. Но ставший императором Генрих IV не одержал полной победы над своими противниками. Беспорядок в империи достиг высшей точки. В одной из хроник Аугсбурга приводится сравнение с персонажами комедии Платона: «два папы, два короля, два епископа, два герцога…».