Правда, Гитлер не стал препятствовать этим переговорам, а потому в марте 1945 г. Бернадотт снова прибыл в Германию для окончательного решения вопроса о заключённых. Одновременно в марте 1945 г. в Швейцарию был направлен генерал Вольф для переговоров с Алленом Даллесом. Эти переговоры велись втайне от Кальтенбруннера.
2 апреля Гиммлер лично встретился с графом Бернадоттом. Гиммлер согласился на освобождение части скандинавских заключённых. Одновременно Гиммлер попросил Бернадотта связаться с союзниками от его имени, «если с Гитлером что-нибудь случится».
В эти дни Гиммлера одолевали сомнения, которыми он делился с Шелленбергом. Он говорил: «Шелленберг, по-моему, Гитлер уже не может предпринять ничего путного». На это он услыхал: «Все его последние поступки указывают на то, что пришло время действовать». «Но я не могу застрелить Гитлера, — жаловался Гиммлер Шелленбергу, — Я не могу и арестовать его, потому что тогда вся военная машина перестанет функционировать». В ответ Шелленберг сказал: «Многие высшие руководители СС всё ещё преданы вам, они выполнят любые ваши приказы. Вы достаточно сильны, чтобы арестовать его. Ну, а если не будет другого выхода, в дело вмешаются врачи».
20 апреля Гиммлер принял участие в приёме по случаю дня рождения Гитлера, состоявшемся в бункере рейхсканцелярии. На следующий день 21 апреля в Берлине Гиммлер тайно от Гитлера вёл переговоры с директором шведского отдела Всемирного еврейского конгресса Норбертом Мазуром, пытаясь наладить через него контакт с Эйзенхауэром, чтобы капитулировать на Западном фронте.
Узнав 23 апреля об аресте Геринга, Гиммлер, по словам Шпеера, не придал большого значения случившемуся. Он говорил: «Сейчас Геринг станет преемником… Я уже вступил в контакт с рядом лиц, которые войдут в мой кабинет. Скоро меня посетит Кейтель».
Гиммлер был уверен в прочности своего положения и своей незаменимости. Он изрекал: «Европа не сможет справиться без меня в будущем.
В заключение беседы Гиммлер предложил Шпееру войти в его новое правительство. В свою очередь Шпеер предложил Гиммлеру свой самолет, чтобы слетать в Берлин и попрощаться с Гитлером. Но тот отказался от предложения. «Мне некогда, — сказал он. — Сейчас я должен готовить новое правительство. Кроме того, моя личность слишком значительна для будущего Германии, чтобы рисковать ей в ходе полёта».
Беседа была прервана появлением Кейтеля. Шпеер писал: «Уходя я слышал, как фельдмаршал тем же твёрдым голосом, каким он обычно провозглашал свои напыщенные и сентиментальные слова верности Гитлеру, теперь заверял Гиммлера в своей безоговорочной преданности и говорил ему, что он в полном его распоряжении».
23 апреля Гиммлер встретился в Любеке с Бернадоттом в консульстве Швеции. По воспоминаниям Шелленберга, Гиммлер сказал графу: «Нам, немцам, остаётся провозгласить себя побеждёнными, и я прошу передать мои слова через шведское правительство генералу Эйзенхауэру, чтобы все мы могли избежать дальнейшего ненужного кровопролития. Для нас, немцев, и в особенности для меня невозможно капитулировать перед русскими. Против них мы будем продолжать сражаться, пока на место немецкого фронта не встанет фронт западных держав».
Бернадотт записал такие высказывания Гиммлера: «Чтобы спасти от вторжения русских как можно большую часть Германии, я намерен капитулировать на западном фронте. Тогда западные союзники смогут развернуть свои войска на восточном фронте. Но я не готов к капитуляции на восточном фронте. Я всегда был и остаюсь заклятым врагом большевизма… Согласны ли вы передать моё официальное предложение министру иностранных дел Швеции, чтобы он известил о нём западных союзников?». Граф заверил Гиммлера, что «готов передать ваше официальное сообщение министру иностранных дел Швеции только при условии, если вы пообещаете включить в предложение о капитуляции Данию и Норвегию». (Имелось в виду прекращение немецкой оккупации этих двух стран.)
Шелленберг вспоминал: «Гиммлер указал, что имеет право принимать решение по этому вопросу, так как гибель Гитлера — дело двух-трех дней. По крайней мере Гитлер погибнет в борьбе, которой он посвятил свою жизнь — борьбе против большевизма».
После долгой дискуссии Гиммлер написал письмо министру иностранных дел Швеции Христиану Гюнтеру с просьбой передать декларацию Гиммлера о прекращении войны командованию англо-американских войск и правительствам США и Великобритании.