Опасавшийся конкуренции Гиммлер поручил Кальтенбруннеру руководство прежде всего разведывательной деятельностью РСХА, сохранив за собой непосредственное руководство за гестапо и криминальной полицией. В то же время Кальтенбруннер осуществлял руководство карательными действиями эйнзацгрупп СД на территории России до момента их ликвидации в 1943 году – но все же в этот период деятельность эйнзацгрупп была значительно менее активной, чем в начале войны. Концлагеря же Кальтенбруннеру (как, впрочем, и его предшественнику Гейдриху) не подчинялись, хотя гестапо и СД имели собственные особые лагеря. Также Кальтенбруннер осуществлял контроль за уничтожением евреев, и ему постоянно представлялись доклады об этом.
Кроме того, по должности шефа полиции безопасности и СД Кальтенбруннер официально возглавлял Международную комиссию уголовной полиции (Интерпол), хотя особой роли в 1943 году это уже не играло. Резкое сужение его компетенции Гиммлер компенсировал наградами и повышениями: 31 мая 1942 года Кальтенбруннер получил Орден Крови, 22 октября 1943-го – Серебряный Германский крест. В августе 1943 года он также стал статс-секретарем Имперского министерства внутренних дел, 21 июня 1943-го он был произведен в обергруппенфюреры СС и генералы полиции, а 1 декабря 1944 года стал еще и генералом войск СС (к этому времени РСХА поглотило военную разведку, и тем самым Кальтенбруннер получил право на ношение «военного» звания).
Кальтенбруннер безуспешно пытался поставить под свой контроль руководителя гестапо Генриха Мюллера и контролировать слишком изворотливого начальника внешней разведки Шелленберга. Но оказалось, что подчиненные значительно умнее и изворотливее своего нового шефа – фактически Кальтенбруннер превращался в личного представителя Гиммлера в РСХА, следившего, чтобы там никто слишком не усилился и не вышел из-под контроля рейхсфюрера СС. Тем не менее именно на Кальтенбруннере лежала ответственность за осуществление террора против противников нацистского режима, а также за «окончательное решение еврейского вопроса».
После покушения на Гитлера 20 июля 1944 года Кальтенбруннер первым прибыл на Бендлерштрассе, остановил расстрел заговорщиков и возглавил расследование и арест участников антигитлеровского заговора, однако в данном случае главная роль принадлежала все тому же начальнику гестапо Мюллеру, который стал председателем специальной комиссии. Тем не менее Кальтенбруннер осуществлял контроль за деятельностью комиссии, в т. ч. лично проводил допросы подозреваемых. В октябре 1944 года он выступил с инициативой привлекать его сотрудников к участию в военных трибуналах в отношении военнослужащих вермахта, однако Гиммлер, опасавшийся недовольства фюрера, отверг это предложение. 15 ноября 1944 года – за заслуги по розыску причастных к заговору против Гитлера – Кальтенбруннер был награжден Рыцарским крестом за военные заслуги с мечами. То, насколько плохо он контролировал деятельность подчиненных ему структур, характеризуется хотя бы тем фактом, что в 1944–1945 годах Шелленберг по согласованию с Гиммлером и через голову своего непосредственного начальника вел переговоры с представителями союзников в Швейцарии.
20 апреля 1945-го Кальтенбруннер в последний раз присутствовал на докладе в фюрер-бункере и в тот же день покинул Берлин. Он был направлен на юг, в укрепленный район в горном Тироле, получивший название «Альпийская крепость». Среди полученных им заданий была подготовка базы для послевоенной деятельности нацистского Сопротивления, что Кальтенбруннер благополучно провалил. Хотя предполагалось, что здесь с верными частями фанатиков нацистское руководство будет вести войну еще долгие месяцы, для руководства подобным сопротивлением он был абсолютно не приспособлен. 12 мая 1945 года отряд CIC, приданный 80-й пехотной дивизии США, обнаружил Кальтенбруннера, его адъютанта Артура Шейдлера и двух эсэсовцев-телохранителей в хижине в районе Вильдензеехютте, близ Альт-Аузее (его местонахождение американцам указал бургомистр этого городка Иоганн Брандауэр) и был арестован. Ни он, ни его охрана никакого сопротивления не оказали.
Единственным генерал-фельдмаршалом на скамье подсудимых на «Большом Нюрнберге» был Вильгельм Бодевин Йохан Густав Кейтель (Keitel), ему же довелось на процессе представлять сухопутные войска и Верховное командование вермахта – тем более что он де-юре считался его главой. По «табели о рангах» он действительно занимал очень высокое положение, но по сути своей деятельности (и по складу характера) был скорее военным секретарем фюрера, во всем ему покорным; в свое время ходила шутка, что его фамилия не Кейтель, а Лакейтель.
