7 мая 1945 года в 11.00 начался отход соседних дивизии частей с фронта. С первых метров марша стало ясным, что все дороги на запад забиты немецкими войсками, но их переходом толково руководили офицеры и части полевой жандармерии. Все части 6-й армии, включая и 4-й ТК СС, отступали маршрутом Грац — Вольфсберг — Фелькермаркт (т. н. ПАК-штрассе). Из-за несогласованности планов эвакуации частей у Вольфсберга столкнулись две отступавшие войсковые колонны 2-й и 6-й армий.
Сам уход дивизии был связан с недоразумениями, возникавшими с уходом ее левого соседа — кавалеристов. С ними не могли договориться об одновременном уходе с линии фронта. Ни командование 4-го ТК СС, ни 6-я армия арбитрами в этом споре стать не захотели, поэтому спор о времени и последовательности отступления окончился безрезультатно.
В продолжение целого дня 7 мая 1945 года комдив и начштаба дивизии ежечасно запрашивали командные инстанции о часе отхода с позиций. В дивизию шли короткие телеграммы:
Дивизия вышла из состава 4-го ТК СС и была подчинена лишь своему командиру. С украинской дивизией не попрощались (даже по телефону) командиры ни корпуса, ни армии.
Командный пункт дивизии и ее штаб снялись со своего места лишь в 10.00 8 мая и сразу же пересекли мост через Мур. Противник отступление заметил, но никаких действий не предпринимал. Части отходили с фронта в соответствии с планом, лишь 30-й полк понес потери под Фельдбахом. Отступление украинских полков шло без какого-либо прикрытия с воздуха, поэтому в полдень они были атакованы советскими самолетами. Колонны при авианалете больших потерь не понесли, т. к. весь транспорт, артиллерия и запасы были оставлены на позициях.
С учебно-запасным полком дивизия поддерживала радиосвязь до вечера 7 мая, однако вскоре связь прервалась. Штабу дивизии пришлось выделить офицера для связи с полком, чтобы вывести его в район сбора близ Фелькермаркта.
Переход частей через Мур прошел в порядке. Все части были обеспечены продовольствием, и запасы могли быть пополнены в складах близ Граца. В составе штабной колонны следовали Шандрук, Вехтер и Арльт.
Вскоре колонна дивизии начала распадаться в общей колонне войск, отступавших на запад. Командование дивизии старалось пробиться в голову колонны, чтобы при необходимости возглавить личный состав при встрече с войсками союзников. Советская авиация несколько раз налетала на колонну, но больших потерь не было.
В это время в штаб дивизии пришла весть от высланного к учебно-запасному полку офицера. Он сообщал, что в районе Фелькермаркта англичан нет, но зато здесь пребывает сильный полк титовских партизан. Учебно-запасной полк, подразделения которого понесли тяжелые потери, попытался пробиться на север. Во время ожесточенных боев с титовцами полк распался. После боя вышедший из него начальник штаба полка встретил лишь командира полка, трех командиров батальонов и нескольких солдат. В такой ситуации командованием дивизии было принято решение смешаться с отступающими немецкими частями. О выходе в район Фелькермаркта не могло быть и речи. Дивизия изменила маршрут и начала двигаться по маршруту Твимберг — Юденбург — Мурау — Маутендорф — Радштадт вместе с отступающими немецкими войсками.
10 мая командный пункт дивизии разместился на рынке в городишке Тамсвеге, а вечером того же дня переехал в деревушку Санкт-Андре близ Тамсвега. Вечером того же дня в штаб дивизии пришло сообщение, что западные союзники собирают здесь все инонациональные части вермахта и СС, это же подтвердил и Вехтер. Начальник штаба дивизии как бывший офицер вермахта выехал на пропускной пункт в Тамсвеге, чтобы узнать возможность выхода дивизии из города. Перед тем как покинуть расположение штаба, майор Гайке попросил Вехтера дождаться его возвращения. Фрайтаг лег спать, а Вехтер пообещал дождаться возвращения начштаба. Через несколько часов в Маутендорфе Гайке встретил трех украинских офицеров, которые сообщили ему о самоубийстве командира дивизии. В своих воспоминаниях начальник штаба дивизии упоминает о некоем плане Фрайтага уйти в горы с наиболее верными немецкими офицерами. Когда офицеры отказались следовать за ним в горы, Фрайтаг застрелился.