В 1628 году Кромвель был избран от Хантингдона в Долгий парламент, где защищал интересы буржуазных слоёв общества и нового дворянства и выступал против аристократии и абсолютной монархии. В 1629 году, после роспуска Долгого парламента королём Карлом I, Оливер Кромвель возвратился в Хантингдон. Вновь король созвал парламент лишь в 1640 году в связи с войной с Шотландией. И вновь роялисты и оппозиционеры не нашли общего языка. Результатом этого конфликта стали две гражданские войны (1642-1646 и 1648 годов), в которых Оливер Кромвель снискал себе славу полководца и выдающегося политического деятеля.
Итак, непримиримые разногласия между английским парламентом и королём привели к тому, что Карл I Стюарт покинул Лондон и уехал на север страны в город Йорк, где роялисты имели сильные позиции. Там сторонники короля попытались захватить запасы оружия близ города Гулля, но потерпели неудачу. Затем Карл I отправился в графство Ноттингем, где начал собирать войско для борьбы с парламентом.
22 августа 1642 года в городе Ноттингеме в торжественной обстановке был поднят королевский штандарт. Это означало объявление войны парламенту под предлогом подавления «мятежа графа Эссекса», командовавшего недавно созданной парламентской армией.
В марте 1642 года парламент издал указ — ордонанс, согласно которому лорды-лейтенанты графств должны были собрать англичан, годных для военной службы. 4 июля был создан Комитет обороны, возглавивший военную деятельность парламента. Оливер Кромвель предложил сформировать армию «для защиты палат, истинной религии, свободы, законов и мира». 6 июля парламент принял решение о наборе 10-тысячной армии, назначив её главнокомандующим графа Эссекса.
42-летний Кромвель в чине капитана возглавил добровольческий кавалерийский отряд из 60 всадников, набранный из крестьян и ремесленников.
Кромвель по-своему воспитывал своих солдат и офицеров. Будучи ярым пуританином, он требовал от всех личной честности и железной дисциплины, запретил грабить местное население и сквернословить. Основой военной философии Оливера Кромвеля стало религиозное, пуританское рвение. По его мнению, армия не может состоять «из негодяев, пьяниц и всякого рода общественных подонков».
Кавалерию Кромвеля можно считать образцовой для того времени. Он тщательно отбирал в неё людей, снабдил их лучшими конями и новейшим оружием. За воинскую службу он ввёл повременную оплату. Проводил учения для кавалеристов, лично обучал их командиров тактике и маневрированию на поле сражения и марш-броскам.
Как правило, кавалерия Кромвеля наступала на врага не галопом, а рысью. Такой ход коней давал кавалерийскому отряду свободу манёвра и позволял наносить удар туда, где в неприятельских рядах наметилась слабина.
Изменилось и вооружение кавалериста. Все солдаты и офицеры конницы Кромвеля имели кремнёвый пистолет в кобуре. В начале атаки при сближении с врагом они стреляли из этих пистолетов по противнику, а затем обнажали свои обоюдоострые трехфунтовые мечи и бросались в рукопашную схватку. Кромвеля и его солдат, одетых в стальные кирасы, прозвали «железнобокими».
Успешные действия его добровольческого кавалерийского отряда получили широкую огласку среди сторонников парламента, и он стал командиром полка в чине полковника. Кавалеристы Кромвеля победили роялистов в жестоких боях при Грантхэме, Гейнсборо и Уинсби в 1643 году. Его полк, состоявший из четырнадцати эскадронов (11 тысяч человек), был вдвое больше по численности обычного конного полка.
Кромвель тщательно подбирал офицерские кадры. Вот что говорил об этом граф Манчестер в 1645 году: «Полковник Кромвель выбирает офицеров не тех, у кого… много поместий, а простых людей, бедных, не обладающих родовитостью, только бы это были благочестивые и честные люди. Если вы обратите внимание на его собственный полк, то вы увидите там множество из тех, кто называет себя божьими людьми».
Действительно, в новой английской армии, ставшей военной силой парламента, Кромвель упразднил так называемую привилегию джентльменов на замещение командных должностей. Под его командованием до чина полковника дослужились, благодаря своим личным достоинствам, шкипер Рейнсборо, извозчик Прайд, сапожник Хьюстон, котельщик Фокс и другие бойцы парламентской армии.
Кромвель стал инициатором реформы вооружённых сил парламентской Англии. 19 декабря 1644 года парламент принял «билль о самоотречении», согласно которому парламентарии не имели права занимать командные должности в армии. Так в антикоролевских вооружённых силах было установлено единоначалие. Новым главнокомандующим был утверждён генерал Томас Ферфакс, а его заместителем — Оливер Кромвель, который одновременно командовал кавалерией парламентских сил.
Согласно «биллю о самоотречении» Кромвель не мог занимать командные должности. Но парламент сделал для него исключение, учитывая его боевые заслуги и популярность в армии. В петиции лондонского Сити об Оливере Кромвеле говорилось: