Столкновение римлян со степными народами оказало глубокое влияние на их военную практику: меч и дротик постепенно снимались с вооружения в легионах; на смену им приходили длинная и острая сабля (spatha), а также легкое копье (lancea). В кавалерии реже использовали легковооруженных галлов и германцев. Большее внимание стали уделять военной подготовке. При Адриане римскую кавалерию обучали искусству атаки, вольтижировки и маневрирования, чтобы обеспечить ей конкурентоспособность с кавалерией парфян, армян и сарматов. Лучников для конницы (equites sagittarii) набирали теперь во Фракии и на Востоке. Во время германской экспедиции 234–235 гг. Север Александр широко пользовался услугами конных воинов из числа мавров, осроэнов, армян и даже дезертировавших парфян.
При Галлиене (в III в.) окончательно оформилась система вексиллариев (vexillationes), находившихся в прямом подчинении императору. Таким образом, сложилось двойное устройство: с одной стороны, пограничные войска, ответственные за охрану того или иного участка границы; с другой кавалерия, сосредоточенная в определенных пунктах и организованная таким образом, чтобы осуществлять быстрое реагирование в месте прорыва рубежей империи. Складывалась структура армии, типичная для эпохи Диоклетиана (284–305) и Константина (306–337): разделение армии на пограничные войска (limitanei), постепенно превращавшиеся в сельскохозяйственно-солдатские поселения, утрачивавшие со временем какую бы то ни было боеспособность, и императорскую гвардию (соmitatenses), дислоцированную во внутренних пределах империи и состоявшую преимущественно из варваров — конных воинов.
Процесс перестройки римской армии приобретал разнообразные формы в зависимости от конкретной ситуации. В конечном же итоге очевидно следующее: вслед за провинциализацией армия вступила в полосу варваризации. Причем не только в этническом смысле. Когорты отличались друг от друга по языку, расовой принадлежности, оружию, знаменам и религии. Принцип локальной конскрипции, действовавший при наборе в войска, призванные охранять рубежи, и принцип «национальной конскрипции» в войсках особого назначения, боеспособность которых была обусловлена этническими традициями того или иного «рода» (natio), как бы суммировались и в результате усиливали космополитическое смешение состава армии периода поздней империи. Он становится еще пестрее в связи с появлением numeri, то есть пехотных или кавалерийских частей, иногда смешанного типа, в которые принимались представители самых отдаленных от центра народов либо из числа союзников (foederati). Не исключено, что эти numeri, структура и состав которых были регламентированы Адрианом, появились в связи со срочной необходимостью увеличить в римской армии удельный вес контингента, хорошо владевшего специфическим оружием, например луком, и в то же время обладавшего пестрой «национальной» характеристикой. Но так или иначе, римляне стремились заполучить более мобильные легковооруженные войска, которые были бы способны сразиться с неприятелем, как говорится, на равных.
Варваризация римской армии, явившаяся следствием провинциализации и связанная с ней, так сказать, генетически, отвечала потребности приведения армии в соответствие с тактикой ведения войны, характерной для варваров. Она была вызвана также сокращением числа желающих служить в армии вообще, даже среди периферийного населения, которое соблазняли теперь перспективы гораздо более удобной и безопасной жизни. Меры принуждения, направленные на известную категорию лиц, например сыновей ветеранов, лиц без определенных занятий, племена (gentiles), получившие право на жительство в пределах империи в обмен на обязательство вместе с сыновьями своими поступать на военную службу, оказались действенными разве что в отношении последних. Так, в армию стали брать «варваров», которые то и дело небольшими группами проникали через границу, и даже военнопленных или племена целиком, которые покорились силе римского оружия. Наконец, за пределами римских границ (limes) — на «эвакуированной» территории — стали поселять варварские народы целиком, предоставляя им статус «союзников» и пограничных войсковых частей.