Начало его службы пришлось на трудное время: потеря престижа военно-морского флота после поражения в Русско-японской войне, волнения в матросской среде. Затем — революционные события начала 1917 года и Моонзундское сражение 4 октября 1917 года, в котором Л. М. Галлер, уже капитан 2 ранга, участвовал как старший офицер на линкоре «Слава», который был затоплен, чтобы воспрепятствовать проходу германской эскадре в Финский залив. В сентябре 1917 года вызванный в Центробалт Л. М. Галлер узнает, что команда эскадренного миноносца «Туркменец-Ставропольский» просила назначить его командиром корабля, и 19 октября 1917 года Л. М. Галлер принимает командование от капитана 2 ранга Чаплина. Выбор Л. М. Галлера перехода на сторону большевиков, хотя он не принял идеи революции, был определен его стремлением служить Родине и народу, «чтобы вокруг не происходило». Он подписывает контракт, где в одном из пунктов обещает «честью и верно служить в военном флоте…».
В феврале—мае 1918 года эскадренный миноносец «Туркменец—Ставропольский» участвовал в знаменитом Ледовом походе и без повреждений пришел в Кронштадт. В Гражданскую войну он принимал участие в подавлении белогвардейского мятежа на фортах Красная Горка и Серая Лошадь, в боях против английских кораблей на Балтике, а также в отражении наступления армии генерала Юденича.
В 1921 году Л. М. Галлер временно назначен начальником штаба Морских Сил Балтийского моря, а позже утвержден в этой должности и провел большую работу по восстановлению разрушенного флота. Л. М. Галлер считает необходимым использовать, прежде всего, те ресурсы, что есть в наличии, восстанавливать все корабли, которые не устарели и могут быть использованы для обороны морских рубежей. Осенние маневры 1922 года, в основу которых был им положен бой на минно-артиллерийской позиции против превосходящих корабельных сил противника, были успешно проведены.
С октября 1925 года Галлер находился на полугодичной учёбе в Военно-морской академии на Курсах усовершенствования высшего начальственного состава (КУВНАС). Появилась возможность в спокойной обстановке многое переосмыслить, ознакомиться с новейшими материалами учёных академии по военному искусству, более глубоко изучить опыт применения флотов в Первой мировой войне.
В апреле 1926 года Л. М. Галлер вновь назначен начальником штаба Морских сил Балтийского моря. Он работает, не считаясь со временем. Всю свою энергию и знания он посвящал главному — боевой учебе. Особое внимание при этом уделял отработке организации взаимодействия линкоров с артиллерией фортов, с самолётами и с торпедными катерами, а также бою на минно-артиллерийской позиции. Уже тогда он мечтал о создании в будущем океанского флота, в котором гармонично сочетались корабли всех классов, подчёркивая важность иметь свою (морскую) авиацию
С лета 1932 года и до конца 1936 года флагман флота 2 ранга Л. Галлер возглавлял Краснознаменный Балтийский флот. Из года в год нарастала мощь флота: его состав пополнялся кораблями и самолетами новых типов, модернизировалась и усиливалась береговая оборона, осваивалась новая военная техника. Одновременно с этим росло и набиралось опыта новое поколение флотских командиров. Лев Михайлович обладал особым умением находить способных людей. Он учил их, продвигал по службе, давал возможность проявить себя на самостоятельной работе. И они отвечали ему глубоким уважением.
«Любимец флота» — так назвал свой очерк о Льве Михайловиче Галлере адмирал Ю. А. Пантелеев — огромное внимание уделял работе с людьми, подготовке и воспитанию командных кадров. Он был хорошо известен и уважаем моряками на всех флотах нашей страны. Адмирал Ю. А. Пантелеев в своих мемуарах «Полвека на флоте» рассказывает о своих встречах с Л. М. Галлером и, в частности, отмечает его внимательное и уважительное отношением к каждому человеку, знание дела и высокую культуру. Авторитет его был непререкаем.
С 1937 года Л. М. Галлер — заместитель начальника Морских Сил Наркомата обороны СССР, с 1938 года — начальник Главного морского штаба, а с 1940 года он — зам. наркома ВМФ по кораблестроению и вооружению. В этот период обстановка на флоте, как и повсюду, складывалась тяжелая. Начались повальные аресты на флоте ни в чем не повинных людей — бывших офицеров старого флота, а затем и тех, кто окончил училища в советское время. Л. М. Галлер делал все возможное, чтобы защитить кадры балтийцев. В этом ему помогали руководящие политработники флота, как правило, из большевиков-матросов.
