Решение предусматривало, что литовская армия будет создаваться как единый военный организм, состоящий из всех родов войск. Первоначально предполагалось формирование одного корпуса на основе существующих охранных батальонов.
С первых же дней мобилизация в литовскую армию встретилась с серьезными трудностями. Это было связано не только с тем, что гитлеровское руководство так и не дало согласия на образование литовского правительства и поэтому сам акт мобилизации от имени литовских представителей рассматривался значительной частью населения как незаконный.
Возникли серьезные разногласия между литовскими представителями и немецкими властями и по вопросам численности формируемых частей, их подчиненности, командному составу, предполагаемым задачам, дислокации, срокам развертывания.
Газета литовских националистов «И Лайсве» в своем номере от 27 марта 1944 года сообщила, что генеральный инспектор литовских вооруженных сил Плехавичюс, на которого было возложено формирование первой литовской дивизии, не смог договориться с немецкими оккупационными властями Литвы.
Однако в марте 1943 года Плехавичюсу наконец удалось достичь соглашения с представителями немецкого командования на северном участке Восточного фронта.
Между соответствующими сторонами была достигнута договоренность о том, что до 1 мая 1944 года литовцы из так называемых «хильфсвиллиге» сформируют тыловую литовскую армию численностью в 10 с половиной тысяч человек. Офицерский состав формируемой армии должен был состоять из литовцев. После укомплектования армия передавалась в распоряжение немецкого командования. 28 апреля 1944 года Плехавичюс выступил по радио с речью, в которой призвал литовцев вступать в ряды создаваемой им армии.
Однако набор шел вяло. Не способствовало взаимопониманию и то, что немецкое командование стремилось использовать литовские отряды для борьбы с польским партизанским движением. Началось массовое дезертирство из литовских отрядов. В ночь с 17 на 18 мая 1944 года немцы начали разоружение отрядов Плехавичюса. В отдельных случаях литовские боевики оказывали вооруженное сопротивление. Особенно сильным оно было в Укмерге, Вильнюсе и Каунасе. В Вильнюсе бои шли в течение суток, в Каунасе — трое суток. Плехавичюс со своим штабом был арестован. В качестве официального повода для разоружения немцами войск Плехавичюса явился его отказ выполнить требование немцев об отправке на северный участок немецкой обороны 20 тысяч литовских солдат.
Не лучше складывалось положение и в литовских охранных батальонах и строительных частях. Часть из них была разоружена и расформирована.
Последняя попытка сформировать боеспособное литовское подразделение в составе немецкой армии была предпринята в марте 1944 года. Им стал батальон «Летува», принявший активное участие в боевых действиях, а затем ушедший с немцами на Запад.
Остатки разбитых литовских формирований в последующем составили основу для отрядов литовских националистов, длительное время совершавших террористические акты против красноармейских подразделений, органов местной власти, а также сочувствующих новому строю местного населения.
Активная борьба против этих отрядов началась с августа 1944 года и продолжалась вплоть до 1947 года, и стоила обеим противоборствующим сторонам немалых жертв. Особую активность в антисоветской борьбе проявила террористическая молодежная организация «Лайсвес ковотолс» («Борец за свободу»), существовавшая на территории Литвы приблизительно с 1943 года.
В несколько иных условиях шло создание национальных воинских частей в Латвии. После оккупации Латвии немецкие власти приступили к формированию прежде всего многочисленной охранной полиции на основе вышедшей из подполья военизированной организации «айзсаргов».