В 1879 году Бисмарк подписал тайный союз с Австро-Венгрией. После охлаждения отношений с Россией он надеялся выстроить преграду дальнейшей русской экспансии. Не желая, однако, чтобы Австро-Венгрия использовала германскую поддержку, чтобы бросить вызов России, он таким образом обеспечил себе вето по поводу австрийской политики на Балканах. В 1881 году был образован Союз трех императоров (Германия, Россия и Австро-Венгрии). На предварительных переговорах Бисмарк заявил чрезвычайному посланнику России Сабурову: «Поверьте мне, не в Ваших интересах сеять раздор между Германией и Австрией. Вы слишком часто недооцениваете, как важно находиться на шахматной доске Европы втроем. Для старых кабинетов, и прежде всего для моего, эта цель неизменна. Всю политику можно свести к формуле: попытайся держаться втроем, пока сомнительным равновесием распоряжаются пять великих держав. Вот настоящая гарантия против коалиций».
Второй Союз трех императоров предусматривал для сторон нейтралитет, если кто-то из его членов вступит в войну с посторонним государством, — к примеру, если Англия начнет войну с Россией или Франция с Германией. Германия таким образом была защищена от возможности войны на два фронта.
Напряженность в отношениях между Францией и Италией позволила привлечь последнюю к австро-германскому объединению и в 1882 году заключить оборонительный Тройственный союз, направленный против Франции. Германия и Италия пообещали оказать содействие друг другу на случай французского нападения. Этот союз, или Лига мира, как окрестил его Бисмарк, закрепил положение Германии как великой державы.
Наконец, в 1887 году Бисмарк уговорил двух своих союзников — Австрию и Италию — заключить так называемые Средиземноморские соглашения с Великобританией, согласно которым стороны-участники договаривались совместно оберегать мир в районе Средиземноморья.
Результатом бисмарковской дипломатии было появление на свет взаимно переплетавшихся альянсов, частью совпадавших по целям, а частью соперничавших друг с другом, что страховало Австрию от русского нападения, Россию от австрийского авантюризма, а Германию от окружения, а также вовлекало Англию в дело защиты от русской экспансии в направлении Средиземного моря. Бисмарк делал все, что было в его силах, чтобы удовлетворять французские амбиции повсеместно, за исключением Эльзас-Лотарингии. Он поощрял французскую колониальную экспансию, отчасти для того, чтобы отвести французскую угрозу от Центральной Европы, но в гораздо большей степени для того, чтобы столкнуть Францию с соперниками по колониальным приобретениям, особенно с Англией.
Бисмарк считал Германскую империю европейской державой и даже очень существенные торговые интересы за океаном не оправдывали в его глазах захвата колоний. Захват колоний в Африке (Юго-Западная Африка, Камерун, Того, Восточная Африка) и в морях южного полушария совершился в условиях столкновений с Англией, точно так же, как во всех международных конфликтах (вокруг Афганистана, Египта и т. д.).
В 1888 году прозвучали известные слова Бисмарка в адрес исследователя Африки Ойгена Вольфа: «Ваша карта Африки и вправду очень хороша, но моя карта Африки расположена в Европе. Здесь расположена Россия и здесь расположена Франция, а мы в середине; вот моя карта Африки».
В разгар кризиса 1887 года вокруг Болгарии Бисмарк добился двухсторонего русско-германского договора, так называемого Договора перестраховки. Россия и Германия были теперь гарантированы от войны на два фронта, при условии, что будут обороняющейся стороной. Договор перестраховки обеспечивал связь между Санкт-Петербургом и Берлином. К тому же он заверил Санкт-Петербург в том, что хотя Германия и будет защищать целостность Австро-Венгерской империи, но не будет ей помогать в экспансии за счет России. Бисмарку удалось также добиться отсрочки заключения франко- русского союза.
В декабре 1887 года Бисмарк испытывал сильное давление и со стороны австрийцев, и со стороны собственных военных кругов, толкавших его на превентивную войну с Россией. Однако Бисмарк подавил эти настроения. 6 февраля 1888 года, выступая в рейхстаге, он сказал: «Не страх настраивает нас столь миролюбиво, а именно сознание собственной силы, сознание того, что и в случае нападения в менее благоприятный момент мы окажемся достаточно сильны для отражения противника. <…> Любая крупная держава, которая пытается оказать влияние и давление на политику других стран, лежащую вне сферы ее интересов, и изменить положение вещей приходит в упадок, выйдя за пределы, отведенные ей Богом, проводит политику власти, а не политику собственных интересов, ведет хозяйство, руководствуясь соображениями престижа. Мы не станем этого делать». Конец этой речи общеизвестен: «Нас легко расположить к себе любовью и доброжелательностью — может быть, слишком легко — но уж, конечно, не угрозами. Мы, немцы, боимся Бога, но больше ничего на свете; а уж богобоязненность заставляет нас любить и сохранять мир».