Но карьера юриста не привлекала полного сил молодого парня с изуродованным шрамами лицом. Уже в следующем году Кальтенбруннер стал членом австрийского хеймвера – военизированной организации местных националистов сродни германским Штурмовым отрядам – СА. С каждым днем националистические взгляды Кальтенбруннера крепли, развивалась и его политическая карьера (хотя обвинить его в карьеризме трудно – быть нацистом в Австрии было невыгодно, а часто и опасно). 18 октября 1930 года Эрнст стал членом австрийского отделения НСДАП и получил билет № 300 179. Меньше чем через год – 31 августа 1931 года – он записался в полулегальные австрийские СС (№ 13 039). В тот момент он был даже не «офицером» – всего лишь обершарфюрером. В июне 1932 года он стал руководителем штурма СС в Линце.
Руководство СС сразу же заметило энергичного, физически сильного, драчливого нациста, и уже 25 сентября 1932 года Кальтенбруннер стал штурмгауптфюрером СС, что примерно соответствовало званию армейского майора. В том же году Эрнст унаследовал адвокатскую практику отца и стал вполне респектабельным адвокатом, в СС же он получил более приличествующую доктору права должность юрисконсульта 7-го абшнита СС (на этом посту он числился с 15 июня 1932-го по 12 марта 1938 года). Кальтенбруннер начал выступать на процессах, защищая арестованных австрийскими властями нацистов, и вскоре стал хорошо известен не только в родном Линце, но и в Германии. Не оставляя членства в нацистской партии, он активно участвовал в деятельности Независимого движения Свободная Австрия.
Надо сказать, что среди руководства нацистской партии Кальтенбруннер выделялся поистине богатырским ростом. 192 сантиметра – это даже по меркам начала XXI века немало, не говоря уже о начале ХХ столетия.
14 января 1934 года в Линце Эрнст обвенчался с местной уроженкой Элизабет (или, как он ее чаще называл, Лизль) Эдер (1908–2002). Невеста была на пять лет моложе жениха – она родилась 20 октября 1908 года – и полностью разделяла его политические взгляды. Даже номер партийного билета Лизль несильно отличался от номера Эрнста – 301 490. В этом браке родилось трое детей: старший сын Гансйорг появился на свет 28 февраля 1935 года. Позже, однако, брак фактически распался – сказались постоянное пьянство и дурной характер Кальтенбруннера. Как и многие лидеры СС, Эрнст не развелся – это было как-то не принято, – однако ничто не помешало ему завести любовницу Гизелу Вольф, урожденную графиню фон Встрап (1920–1983), от которой он имел еще двоих детей – близнецов Урсулу и Вольфганга (они родились 12 марта 1945-го).
В январе 1934 года клерикальное австрийское правительство Энгельберта Дольфуса арестовало многих австрийских нацистов и бросило их в концлагерь Кайзерштейнбрух. Среди заключенных оказался и Эрнст Кальтенбруннер. Он быстро стал одним из их руководителей и, добиваясь справедливости, организовал в лагере всеобщую голодовку – сам он прекратил ее только на 11-й день. В апреле 1934 года Эрнста, получившего уже всеавстрийскую известность, освободили, а 20 апреля он получил звание штандартенфюрера СС. 15 июля 1934 года Кальтенбруннер возглавил 37-й штандарт СС в Линце, а уже через 10 дней повел своих подчиненных на штурм здания канцелярии федерального канцлера. Канцлер Дольфус был убит выстрелом в голову. Полиции удалось подавить путч – Гитлер посчитал, что действия австрийских эсэсовцев преждевременны, и поддержки им не оказал – а Кальтенбруннер вновь попал в тюрьму. Его, правда, вскоре освободили, в 1935 году бывший адвокат был назначен фюрером 8-го абшнита СС в Линце, а вскоре – руководителем всех подразделений СС на территории Австрии. Теперь этот нескладный гигант распоряжался главным ударным отрядом Гитлера в Австрии. В мае 1935 года австрийское правительство Курта Шушнига вновь начало закручивать гайки, многие нацисты бежали в соседнюю Германию, а Кальтенбруннер был арестован по обвинению в государственной измене. В ноябре австрийский суд приговорил его к шести месяцам тюремного заключения. Освободившись, Кальтенбруннер стал ревностно укреплять австрийские СС. Однако Гитлер решил делать ставку не на эсэсовцев Гиммлера, а на австрийских нацистов во главе с Артуром Зейсс-Инквартом.