Успешно сдал вступительные экзамены в Николаевскую академию Генерального штаба, которую окончил в 1904 году, в 26 лет! Когда началась Японская война, гвардеец Сергей Марков посчитал своим долгом получить боевое крещение на востоке. По собственному желанию он начал служить «по Генеральному штабу» на фронте в Маньчжурии.
Офицер Генерального штаба с 4 июня 1904 года становится старшим адъютантом штаба 1-го Сибирского стрелкового корпуса генерала Зарубаева. На этой должности штабиста-оперативника оставался и после войны, до января 1907 года. На полях Маньчжурии Маркову не раз довелось продемонстрировать личную храбрость, а самое главное – вести за собой в бой подчиненных.
Русско-японская война «отметилась» в его послужном списке несколькими боевыми орденами, высшим из которых стал орден Святого Владимира 4-й степени с мечами и бантом. Марков не снимал его с мундира до дня своей гибели в Донских степях. В Японской войне его постигло и большое личное горе: потеря любимого брата – подпоручика Леонида Маркова.
По службе боевой офицер-генштабист, имевший боевой опыт, продвигался успешно. С июня 1907 года по январь 1908 года – помощник старшего адъютанта штаба Варшавского военного округа. С июня 1908 года по 1911 год – помощник начальника отделения в отделе генерал-квартирмейстера Главного управления Генерального штаба. В 1909 году получил чин подполковника. Удачной военной карьере сопутствовала счастливая женитьба на княжне Марианне Путятиной.
Солидный опыт оперативной работы позволил С. Л. Маркову (в полковники был произведен в 1913 году) стать штатным преподавателем в Николаевской академии Генерального штаба. Это было прежде всего признанием его высокой профессиональной пригодности как человека военного.
Преподавание в академии Генштаба для Маркова заканчивается в начале Первой мировой войны. Он не мог быть вне действующей армии: для начала становится начальником отделения управления генерал-квартирмейстера Юго-Западного фронта. Показал дарование оперативного работника, умение хорошо разбираться в быстро изменяющейся обстановке на фронте.
В 1915 году назначается на должность начальника штаба 4-й «Железной» стрелковой бригады, которой командовал генерал-майор А. И. Деникин. После знакомства на Австрийском фронте жизненные пути этих двух людей, знаковых фигур в Белом движении, почти не расходились до гибели младшего из них.
Марков, имевший за плечами уже солидный опыт оперативной работы, стремился к самостоятельной, строевой службе. В марте 1915 года он, добившись своего, назначается командиром 13-го стрелкового полка «Железной» бригады, которая разворачивается в дивизию четырехполкового состава, сохранив за собой прежнее название.
В упорных боях южнее австрийской крепости Перемышль «железные» стрелки понесли большой урон в людях от шквала огня тяжелой немецкой артиллерии. Деникин в эмиграции, описывая события мировой войны, вспоминал: «В первый и единственный раз я видел храбрейшего из храбрейших Маркова в состоянии, близком к отчаянию».
Командир «Железной» дивизии видел, как полковник С. Л. Марков выводил из-под артиллерийского обстрела свои батальоны, вернее их остатки. Рядом с ним шел командир соседнего 14-го стрелкового полка. Близкий снарядный разрыв накрыл обоих. Осколок снес голову командиру 14-го полка, его туловище, извергая из себя кровь, простояло еще несколько мгновений. Весь залитый кровью соседа Марков зашагал дальше.
Затем марковский полк в составе дивизии отличился при взятии важного железнодорожного узла города Луцка. Тогда стрелки в штыковой атаке взяли австрийские позиции. В своих мемуарах А. А. Брусилов свидетельствовал: «Деникин, не отговариваясь никакими трудностями, бросился на Луцк одним махом, взял его». «Железные» стрелки пленили в той схватке за город 158 офицеров и 9773 солдат австро-венгерских войск и взяли богатые трофеи. 13-й стрелковый полк овеял себя боевой славой.
За бои второго года Великой войны в Галиции полковник Сергей Леонидович Марков удостаивается ордена Святого Великомученика и Победоносца Георгия 4-й степени. Этот орденский белоэмалевый крест украшал его мундир в день гибели на поле боя. Через два месяца следует награждение почетным Георгиевским оружием.
Оперативные способности С. Л. Маркова не остались незамеченными. В декабре того же 1915 года он в чине генерал-майора становится генералом для поручений при командующем 10-й армией. В начале 17-го ему почти месяц довелось занимать должность командира 10-й пехотной дивизии, на которой он не «засиделся».
Февральскую революцию и отречение императора Николая II царский генерал С. Л. Марков встретил внешне «спокойно»: убежденным монархистом он не был. Февраль 17-го года дал ему большой толчок в карьере: в уже бывшей Русской Императорской армии шла большая чистка командных кадров, и многие явные сторонники Романовых был уволены из ее рядов. Чистка коснулась прежде всего фронтов. Марков получает должность 2-го генерал-квартирмейстера Ставки Верховного главнокомандующего, то есть заместителя начальника оперативного отдела Ставки.