В 1947 году вместе с тридцатью единомышленниками Визенталь открыл в Линце Еврейский центр исторической документации с целью собрать информацию для будущих судов над военными преступниками. Все здесь держалось на добровольных началах. Все зарабатывали на жизнь работой в других организациях. Тем не менее в Центре составили список двадцати двух с половиной тысяч преступников, и в дальнейшем половина их предстала перед судом. Но время, похоже, играло против Визенталя. Денацификация (то есть полное очищение общества и всех его институтов от идеологии и идеологов национал-социализма), проводимая сразу после войны всеми союзными странами в Германии и Австрии, приостановилась. В 1948 году с блокады Берлина началась холодная война. Через год появились две Германии. Австрия с ужасом ожидала той же участи. В ФРГ все бывшие нацисты, готовые противостоять коммунистам, получили априорное оправдание. Такое же априорное оправдание под противоположным знаком происходило в ГДР.
В апреле 1948 года ФРГ и Австрия, лежавшие в руинах, приняли американскую экономическую помощь, так называемый план Маршалла, но человеческих ресурсов, чтобы возродить страну из пепла одними чистыми руками, у них не было. Верховный главнокомандующий войсками союзников М. Риджвей предложил Западной Германии простить тех, кто был осужден за военные преступления в Восточной Европе. Австрия этот совет интерпретировала еще шире. Те военные преступления, за которые в 1946 году карали смертной казнью, а в 1948 году пожизненным заключением, в 1950 году стали не– или легконаказуемыми. Страна потихоньку привыкала жить среди убийц. Досье Еврейского центра документации оставались невостребованными, и в марте 1954 года Визенталь упаковал все материалы (общим весом в пятьсот тридцать два килограмма) и переслал их в исторический архив Яд ва-Шема в Израиле.
Себе он оставил только досье на Адольфа Эйхмана, самое давнее и многостраничное дело. В мемуарах 1967 года «Убийцы среди нас» Визенталь написал, что «розыск Эйхмана был не “охотой”, как его принято называть, а гигантской головоломной мозаикой и долгой, часто обескураживающей игрой на выдержку. Эйхмана поймали благодаря совместным усилиям многих людей из разных стран, чаще всего друг друга не знавших. Каждый вносил свою лепту. Мне тоже удалось внести нечто существенное… Сегодня мне кажется, что одним из моих существенных вкладов в розыске Эйхмана было разоблачение легенды о его якобы смерти. Многих нацистских преступников никогда не удастся разыскать, потому что, вовремя объявив о своей кончине, они припеваючи жили под чужими именами, а некоторые еще и женились на собственных “вдовах”». Может быть, лепта, внесенная Визенталем, была несколько большей. Он, например, сумел составить композиционный (и почти идеальный) портрет постаревшего Эйхмана (до этого во всех сыскных агентствах были три довоенных фотографии преступника: он не любил сниматься), который, в частности, очень пригодился израильтянам.
23 мая 1960 года, когда премьер-министр Израиля Давид Бен Гурион сообщил парламенту, что Эйхман пойман и содержится в израильской тюрьме, Визенталь получил поздравительную телеграмму из Яд ва-Шема. Он не пропустил ни одного судебного заседания (с 11 апреля до 15 декабря 1961 года) и позднее писал: «Суд над Эйхманом проходил в психологически верное время. Если бы сразу после войны его судили на Нюрнбергском процессе, он оказался бы всего лишь одним из подсудимых, и о его преступлениях вскорости забыли бы… В те дни все были рады избавиться от кошмаров прошлого. До суда над Эйхманом миллионы людей в Германии и Австрии отговаривались тем, что не знали и знать не хотели о чудовищных преступлениях эсэсовцев. Суд над Эйхманом положил конец этому самообману; после него уже никто не заикался о неведении… Миллионы людей читали об Эйхмане в газетах и журналах, слушали по радио об «окончательном решении» и смотрели по телевизору прямую трансляцию из зала суда… Они слышали бесцветный голос Эйхмана, видели его бесстрастное лицо. Только раз, на девяносто пятый день судебного процесса, Эйхман проявил что-то похожее на эмоцию, сказав: “Признаюсь, что сейчас я считаю полное уничтожение евреев одним из самых страшных преступлений в истории человечества. Но оно было совершено, и надо сделать все возможное, чтобы такое не повторилось”».