Главной же дипломатической задачей России при Александре II стала ликвидация последствий Крымской войны. Путь к этой цели был нелёгким. Россия пошла на сближение с Пруссией и поддержку её усилий в объединении Германии. Столкновение Франции и Пруссии закончилось в 1870 году разгромом французской армии и пленением императора Наполеона III. 19 октября 1870 года Горчаков уведомил правительства всех государств, подписавших Парижский трактат 1856 года, что отныне Россия не считает себя связанной его условиями. Заявление вызвало взрыв возмущения в Англии и Австрии, но желающих воевать не нашлось. В итоге международная конференция в Лондоне в январе 1871 года признала за Россией право иметь на Чёрном море военный флот и береговые укрепления.
Следующим испытанием стал восточный кризис. Восстания христианского населения в Боснии и Болгарии подтолкнули Сербию и Черногорию к войне с турками. Но силы оказались неравны. Победа турок грозила России утратой влияния на Балканах, и посол в Константинополе Н. П. Игнатьев в октябре 1876 года предъявил от имени Александра II ультиматум, по которому Турция обязывалась заключить мирный договор с Сербией и Черногорией в течение сорока восьми часов. Стамбул дал согласие на перемирие, однако не пошёл на уступки христианским подданным.
При свидании с австрийским императором Францем Иосифом I в Рейхштадтском замке в Чехии Александр II и Горчаков согласились на оккупацию Австрией части Боснии и Герцеговины в обмен на согласие Вены на независимость или автономию Болгарии и возвращение России Юго-Западной Бессарабии. Но султан Абдул-Хамид категорически отказался исполнять коллективную ноту с требованием автономии Боснии, Герцеговины и Северной Болгарии.
Война стала неизбежной, хотя Россия не была к ней готова. В то время как общественное мнение призывало императора начать борьбу в защиту «братьев»-славян, он колебался, помня и боясь повторения того, что довелось пережить его отцу в Крымскую войну. Дважды — в ночь перед подписанием манифеста «о войне с Оттоманскою Портою» и накануне перехода русской армии через Дунай — Александру во сне являлся отец, обнимая и благословляя его.
Пятнадцатого июня русские войска перешли Дунай у Зим-ницы. Александра II ждала радостная встреча в болгарском Систове. «Войска стояли шпалерами от самой переправы до города, — писал Игнатьев. — Энтузиазма, криков восторженных войска при виде царя и главнокомандующего описать невозможно. В городе приём был великолепный. Жители с духовенством и хоругвями в голове встретили царя, кричали “ура!”, “живио!”, бросались целовать руки, ноги. Болгары выбили окна в мечетях, разбросали листки корана и разграбили лавки мусульман, оставивших поголовно город».
Начало было удачным — взяты Никополь, Тырново, осуществлён переход Балкан; но затем начались упорные бои под Плевной и героическая оборона Шипкинского перевала от наступавших турок. Война выявила слабости командования, организации, снабжения, вооружения. Главнокомандующий, великий князь Николай Николаевич, оказался бездарным полководцем; не хватало кадровых офицеров; на вооружении у турок имелись немецкие и английские стальные орудия и скорострельные американские карабины-винчестеры.
Только в самом конце 1877 года произошёл перелом. Войска М. Д. Скобелева под Шейновом и Шипкой окружили турок, и их командующий Вессель-паша отдал русскому генералу свою саблю. Победители двинулись на турецкую столицу. 9 января 1878 года, по свидетельству Д. А. Милютина, Александр II воскликнул: «Если суждено, то пусть водружают крест на Святой Софии!» Но мечты оказались неосуществимы; европейские державы, прежде всего Англия, не желали разрушения Турецкой империи. Начались трудные дипломатические переговоры, которые закончились возвращением России контроля над устьем Дуная, потерянного после поражения в Крымской войне; на Балканах появилось новое независимое государство — Болгария.
На войне Александр прямо на поле сражения подбирал в свою коляску раненых, навещал их в госпиталях и награждал отличившихся. Во время кампании он жил в домах простых обывателей в селе Бела, городках Горный Студень и Порадим, перенёс приступ астмы, катар верхних дыхательных путей, лихорадку и дизентерию, но держался мужественно. Однако тяготы не прошли бесследно. По свидетельству очевидцев, «когда царь уезжал на войну, это был высокий и красивый воин, державшийся очень прямо, несколько склонный к полноте. Когда он возвратился, его с трудом можно было узнать. Щёки его отвисли, глаза потускнели, фигура согнулась, всё тело исхудало так, что казалось, это была кожа да кости. Несколько месяцев было достаточно, чтобы он превратился в старика». Александр II стал совсем седым, с исхудавших пальцев сваливались кольца.
