Гиммлеру и Шелленбергу удалось добиться лишь частных успехов на переговорах с Жаном-Мари Мюзи, бывшим президентом Швейцарской Конфедерации. Мюзи, приверженец традиций швейцарского посредничества в международных конфликтах, стремился добиться передачи Швейцарии возможно большего числа евреев — узников немецких концентрационных лагерей, над которыми нависла угроза уничтожения немцами при приближении к лагерям союзных армий.
Гиммлер, все еще на что-то надеясь, согласился встретиться с Мюзи сначала в конце 1944 года, а затем еще раз 12 января 1945 года в Висбадене. В конце концов, он принял решение передать некоторое число евреев Швейцарии, которая должна была стать «транзитным пунктом» для лиц, приобретавших право «на эмиграцию».
Со своей стороны, международные еврейские организации, в частности американские, должны были выплатить значительный выкуп.
Ежемесячно из немецких концентрационных лагерей в Швейцарию должны были прибывать 1200 евреев. Первый эшелон с такими узниками прибыл в Швейцарию уже в начале февраля 1945 года, и еврейские организации выплатили свой первый взнос — 5 млн франков. Этот факт просочился в печать, и мировая пресса выдвинула предположение, что Швейцария обязалась в порядке компенсации предоставить после войны на своей территории убежище нацистским главарям.
Самым неприятным для Гиммлера было то, что об этом во всех подробностях узнал Гитлер. Взбешенный, он наговорил Гиммлеру массу резкостей и запретил дальнейшую выдачу заключенных. С этого момента доверие фюрера к Гиммлеру было основательно подорвано.
Мюзи тем не менее не оставлял свои настойчивые усилия, и в начале апреля 1945 года он наконец добился от Гиммлера, озабоченного скорее уже только собственным спасением, обязательства не эвакуировать заключенных из лагерей при приближении союзных армий.
До этого заключенных при приближении фронта строили в колонны или грузили в запломбированные вагоны и отправляли в глубь Германии в поисках нового места для лагерей.
Президенту Международного Красного Креста графу Бернадотту удалось также добиться разрешения на доставку в Германию грузовиков с продовольствием для тех узников-евреев, которые были уже эвакуированы из лагерей.
Попытки спасти заключенных гитлеровских концлагерей предпринимались также Г. Шторхом и представителем Всемирного сионистского конгресса доктором Буркхардтом.
До поры до времени все эти контакты удавалось удерживать в тайне от Гитлера. Вместе с тем опасавшийся за собственную жизнь Гиммлер вплотную подошел к мысли о необходимости устранения фюрера от власти. В середине апреля 1945 года Гиммлер имел продолжительную беседу с министром финансов Ш. фон Крозигом, а Шелленберг в это время уговаривал министра труда Зельдта. Все они пришли к единому мнению: Гитлер должен уступить свое место Гиммлеру, который затем должен был заключить «почетный мир». Надежды на успех Гиммлера во многом связывались с графом Бернадоттом. Последний во время их встречи также рекомендовал Гиммлеру устранить Гитлера и взять власть в свои руки, объявив о невозможности для фюрера исполнять обязанности в связи с неожиданным тяжким заболеванием, после чего должен был последовать роспуск национал-социалистской партии. Гиммлер уже созрел для осуществления этого запоздалого переворота, но он еще раз хотел удостовериться, что союзники пойдут на переговоры с такой одиозной политической фигурой, как он, и опасался их отказа или подвоха.
Времени для раздумий оставалось все меньше. Фронт приближался непосредственно к Берлину.
21 апреля Гиммлер, как оказалось, навсегда покинул рейхсканцелярию и встретился с Шелленбергом. Тот должен был проводить его в госпиталь Хохенлихен в одном из пригородов Берлина, где планировалась встреча Гиммлера с графом Бернадоттом. В ходе этой встречи Гиммлер пообещал принять меры к недопущению эвакуации концентрационного лагеря Нейнгамме, находившегося около Гамбурга, и просил Бернадотта организовать его встречу с генералом Эйзенхауэром.
Однако Бернадотт с самого начала развеял иллюзии Гиммлера относительно какой-либо его политической роли в будущей Германии. Встреча, казалось, закончилась безрезультатно.
Граф Бернадотт отправился обратно в Швецию через г. Любек. Гиммлер, не удовлетворенный итогами разговора, решил догнать его и вновь предложить прекращение военных действий в увязке с устранением Гитлера. Теперь он был безоговорочно готов пойти на это.
Шелленбергу удалось уговорить Бернадотта вернуться в Любек для новой встречи с Гиммлером. Эта встреча состоялась 23 апреля в 11 часов вечера в подвале шведского консульства при свете свечей, поскольку в Любеке, подвергавшемся постоянной бомбардировке, было отключено электричество.
После переговоров, длившихся пять часов, Бернадотт согласился передать предложения Гиммлера своему правительству, которое одно могло решить, следует ли доводить эти предложения до сведения союзников. Для Гиммлера это уже мало что значило.