В первоначальной версии первая картина Второго действия оперы представляла собой беседу Рупрехта с четырьмя учениками знаменитого книжника и мага Агриппы Неттесгеймского. Впоследствии композитор начал Второе действие с совершенно другой картины, в которой он поместил Рупрехта и Ренату в «комнату, обставленную не без комфорта», с «видом на Кёльн с очертаниями недостроенного собора». Рената читает книгу по чёрной магии, затем входит Рупрехт, а за ним и продавец книг Яков Глок, принесший ещё два магические фолианта. Глок уходит восвояси. Начинается сеанс магии: Рената использует порошки и мази, справляясь об их применении по принесённым книгам. Стуки и удары в стену. Рената просит подтверждений того, что стучащему (или стучащим) известно нечто о «господине моём, графе Генрихе». Удары в стену повторяются. Рената отсылает Рупрехта прочь, сама бежит к лестнице, но там никого.
Рената, бедная Рената!Нас обманули таинственные стуки.Но я клянусь тебе проникнуть в тайны магиии заставить демонов тебе повиноваться, —обещает подавленный всем произошедшим Рупрехт. Тут в комнату входит Глок: возможно, это стучал он, а возможно, что и нет. Глок принёс новую книгу по каббалистике — трактат трижды доктора наук Агриппы Неттесгеймского, а также рекомендательное письмо к Агриппе от его коллеги Геторпия. С этим письмом Рупрехт и отправляется к известному магу.
Следующая сцена — вторая и последняя картина Второго действия в опере (в первоначальной версии третья картина) — новый визит Рупрехта в дом Агриппы. В написанном Прокофьевым в 1930 году для директора нью-йоркской Метрополитен-оперы подробном разъяснении этой сцены читаем: «Агриппа стоит на возвышенности в черной мантии и малиновой шапочке. Рупрехт у подножия. Рупрехт спрашивает Агриппу о тайнах магии. Агриппа отвечает софизмами. <…> Скелеты гремят костями, говоря Агриппе: «Ты лжёшь».
Исторический Агриппа, как известно, не верил в колдовство и в ведовство и успешно защищал подозреваемых инквизицией от таких обвинений, что, при неблагоприятном исходе дела, могло, в согласии с «Malleus maleficarum» (то есть «Молотом ведьм»), быть приравнено к ереси и караться — в случае с самим Агриппой — смертью на костре. Однако искушённый в софистике автор умудрялся обвинять самих обвинителей в неверии в то, что таинство крещения избавляло их потенциальных жертв от власти дьявола, то есть в самой настоящей ереси. Инквизиция предпочитала не связываться с трижды доктором, угрожавшим ей самой её же собственным молотом.
Третье действие оперы распадается на две картины, и обе они связаны с замышляемой Ренатой местью Генриху, причём мстит Рената так, как по своему разумению и должна тому, кто отверг её любовь, — посылает на поединок с неверным Генрихом-Мадиэлем Рупрехта. В первой картине она стоит одна «перед домом Генриха. Вдали недостроенный Кёльнский собор». Появившийся Рупрехт сообщает помешанной на любви к Генриху-Мадиэлю Ренате: «Я был принят Агриппой. Он просветил мой ум, он освежил мою душу. Забудь о стуках и о духах: всё это бред и достоянье шарлатанов». Но мысли Ренаты только об одном — она сообщает Рупрехту, что вот она, дверь дома Генриха, «укравшего её ласки» и «оскорбившего её», и требует немедленного отмщения. Рупрехт входит в дом Генриха и бросает хозяину резкие и оскорбительные для его слуха слова. Первоначально Прокофьев предполагал дать голос и Генриху, но в окончательной версии оперы Огненный ангел хотя и появляется на сцене, однако роль его — без пения и вообще без слов, что действует ещё сильнее. Дуэль неизбежна. Безумеющая от любви Рената в отчаянии молит:
Мадиэль, Мадиэль!Последнее дыхание жизни меня покидает.Мадиэль, Мадиэль!Спаси меня, взгляни на меня,явись ко мне, укрепи меня.Антракт живописует в звуках рапирные выпады противников, завершающиеся тяжёлым ранением Рупрехта. Во второй картине при поднятии занавеса Рупрехт лежит на обрыве над Рейном. Генрих с секундантом исчезают. Рената клянётся в любви к умирающему Рупрехту, которого сама же послала на верную погибель. Тому кажется, что он оказался то ли в аду, окружённый хвостатыми чертями, то ли в Америке, и над ним сейчас склоняется оставленная там индейская женщина Анджелика. Пришедший лекарь сообщает, что «мы не в десятом веке. В шестнадцатом столетии нет невозможного для медицины». Значит, Рупрехт будет жить.