После освобождения Верховский вступил в Красную армию.
В дальнейшем Александр Иванович, как и большинство военспецов, искал ответа на другой вопрос, правильно ли он сделал, пойдя на службу в Красную армию. Этот поиск продолжался ежедневно из года в год.
В штабе Петроградского округа, куда он был назначен, произошла встреча с генерал-лейтенантом Александром Алексеевичем Балтийским, который с первых дней открыто перешел на сторону большевиков. На вопрос, как он принял такое непростое решение, услышал: «Очень просто. И я, и многие офицеры, шедшие по тому же пути, служили царю, потому что считали его первым из слуг отечества, но он не сумел разрешить стоявших перед Россией задач и отрекся. Нашлась группа лиц, вышедших из Государственной думы, которая взяла на себя задачу продолжать работу управления Россией. Что ж! Мы пошли с ними, помогая им как только могли и работая не для них, а для пользы родины. Но они тоже не справились с задачей, привели Россию в состояние полной разрухи и были отброшены. На их место встали большевики. Мы приняли их как правительство нашей родины и также по мере сил стремились помочь им в их работе. В политику мы в то время не вмешивались и действовали по признаку преемственности власти. Ну, а потом мы поняли свою ошибку; в ходе работы стали знакомиться с тем, чего хотели Советская власть и Коммунистическая партия, и пришли к полному убеждению, что они правы, что они действительно строят государство, какого не видел мир. Идея социалистического отечества стала нам близка. Вот и все»[30].
12 августа 1920 года А.И. Верховский был назначен главным инспектором военно-учебных заведений республики. Он уже пришел к убеждению, что «нужно нам, офицерам, заключить союз с лучшей частью солдатской массы и направить движение так, чтобы победить нарастающее анархическое начало и сохранить силу наших войск и кораблей». Эту мысль он старался воплотить на новом месте своей службы.
Ученик Верховского Родион Яковлевич Малиновский записал на форзаце его книги «На трудном перевале», вышедшей в «Воениздате» в 1959 году: «Прочел с большим интересом, сохраняя большое уважение к автору, как к своему профессору по учебе в Академии им. Фрунзе в 1927—30 гг. Он не совсем в моих глазах был предан нам, но, бесспорно, очень образованный офицер, высоко одаренный и умный военный писатель, приятно было иметь его в числе преподавателей, у которых мы, слушатели, учились военному делу (21.3.60. P.M.)».
На будущего маршала Н.Н. Воронова тоже огромное впечатление произвели лекции профессора Верховского в Академии, что и было отражено в его мемуарах: «Верховский был блестящим методистом и настолько увлекательно преподносил учебный материал, что даже удостаивался порой аплодисментов благодарных слушателей, долго не отпускавших его с кафедры, засыпая вопросами».
Организацией и руководством ВУЗов ведало Главное управление военно-учебных заведений (ГУВУЗ). До февраля 1918 года ведомство возглавлял генерал-лейтенант Николай Александрович Хамин (впоследствии начальник Высших Организационных курсов Всевобуча), затем штабс-капитан Гренадерского лейб-гвардии полка И.Л. Дзевалтовский.