Война с Францией завершилась Франкфуртским миром (1871), сохранившим положение Франции как великой державы. В 1871 году ни одна из сторон не предполагала, что Франкфуртский договор просуществует более сорока лет. Бисмарк старался объединить Евроцу против Франции. Наиболее безопасной комбинацией для Германии был образованный в 1873 году Союз трех императоров (Россия, Австро-Венгрия и Германия). По выражению канцлера, он перекинул мост в Вену и в то же время сохранил мост, соединяющий Берлин с Санкт-Петербургом. Бисмарк оставлял за собой свободу дипломатического маневра в отношениях между Англией и Россией, а также Россией и Австрией. 15 июня 1877 года в «Киссингском диктате» он рассматривает схему идеальной для Германии расстановки сил в Европе: «все державы, за исключением Франции, нуждаются в нас и по возможности воздерживаются от коалиций прютив нас, основанных на их связях друг с другом».
Но Союз трех императоров не выдержал испытание Балканским кризисом. Начавшееся в 1875 году восстание на Балканах служило лишь прологом к тому славянскому освободительному движению против турок, которое должно было привести к войне 1877 года между Россией и Портой.
Во время Балканского кризиса Бисмарк не возражал, чтобы Россия добилась своей цели на Ближнем Востоке, но только с согласия Австро- Венгрии, а не посредством войны против нее, особенно такой войны, которая могла бы погубить Габсбургскую монархию. Впоследствии Бисмарк утверждал, будто пошел бы за Россией, «несмотря ни на какие препятствия», если бы мог получить от нее взамен гарантию по поводу Эльзас-Лотаринг. Это была не больше чем ловкая отговорка, которая нравилась Бисмарку настолько, что он пустил ее в ход также против Англии в январе 1877 года и неоднократно пользовался ею впоследствии. Если бы даже Бисмарк получить уверенность, что Россия никогда не окажет поддержки Франции, он все равно воспротивился бы расчленению Австро-Венгрии. Габсбургская монархия была необходима для созданной Бисмарком объединенной Германии; последняя в свою очередь была необходима для равновесия в которое Бисмарк верил как в единственное средство, обеспечивающее сохранение мира в Европе.
Для Бисмарка все определяло равновесие сил. Выступая в рейхстаге 19 февраля 1878 года, он заявил, что Германия не станет соревноваться с Наполеоном III «в стремлении стать если не третейским судьей, то по крайней мере наставником в Европе». «Содействие миру я не мыслю так образом, чтобы мы в случае расхождения мнений изображали третейского судью и говорили: „Должно быть так, и за этим стоит мощь Германской империи“. Я мыслю его скромнее… скорее как посредничество честного маклера, который действительно хочет совершить сделку… я льщу себе… что при известных обстоятельствах мы можем с таким же успехом быть доверенным лицом между Англией и Россией, как уверен в том, что мы являемся им и между Россией и Австрией, если они сами не смогут договориться».
На Берлинском конгрессе, созванном по поводу окончания русйско-турецкой войны в июне 1878 года, Бисмарк и пытался играть роль «честного маклера». Канцлер не хотел открыто противодействовать интересам России, но в то же время интересы Австро-Венгрии не позволяли ему оказать Петербургу ощутимую поддержку. Антагонистические интересы Австрии и России заставили его выбрать тактику нейтралитета. В результате Союз трех императоров прекратил свое существование, а Россия, которой пришлось пойти на уступки, обвинила в этом Бисмарка, так что в русско-германских отношениях наступило охлаждение. Правда, канцлеру удалось убедить Англию (и за ней Францию) в бескорыстии своей посреднической деятельности.
Г. Киссинджер в книге «Дипломатия» писал: «…Отказавшись от свободы маневра, характерных для его дипломатии в течение двадцати лет, Бисмарк начал создавать систему альянсов, решительно задуманных, с одной стороны, для того, чтобы германские потенциальные противники не заключили союзы между собой, а с другой стороны, для того, чтобы держать под контролем действия германских партнеров. В каждой из бисмарковских, иногда довольно противоречивых коалиций Германия всегда была ближе к каждому отдельно взятому партнеру, чем они по отдельности друг к другу; и потому Бисмарк всегда обладал правом вето в отношении совместных действий, а также возможностью действовать самостоятельно. В течение десятилетия ему удалось заключить пакты с противниками его союзников, так что он оказался в состоянии ослаблять напряженность со всех сторон».