В 1873 г. была подписана тройственная конвенция России - Германии -Австрии. Эти страны стали называться "Союз трех императоров". Горчаков считал, что этот союз поможет решить балканскую проблему. Он призывал европейские державы поддержать его план автономии для Боснии и Герцеговины. Однако нарастающий на Балканах конфликт мирным путем решить не удалось. Турки в 1876 г. начали наступление на Сербию, в своем продвижении на Белград сметая все на пути. Александр II собрал в Ливадии своих министров и поставил , вопрос: что же делать с гибнущей Сербией? Все лишь сожалели об этом, а князь Горчаков встал и сказал: "Наши традиции не позволяют нам быть равнодушными, есть чувства национальные, внутренние, против которых трудно идти. Ваше величество! Теперь не время слов и сожалений, наступил час дела". При этом он подал императору заготовленную телеграмму, в которой русскому послу в Турции повелевалось объявить султану, что он немедленно, в 24 часа, покинет Константинополь, если турки тотчас не остановятся и не очистят Сербию. "Я согласен с твоим предложением", - ответил Александр II, закрывая заседание.
    Однако Турция была готова к войне с Россией. Более того, стремилась к ней. Горчаков в январе 1877 г. заручился нейтралитетом Австро-Венгрии (Будапештская конвенция), а в апреле того же года Александр II начал эту войну, которая велась под флагом освобождения балканских народов от турецкого ига. Она внесла много славных страниц в историю русского оружия и завершилась полным успехом России. Влияние ее на Балканах усилилось. Вначале было заключено Адрианополь-ское перемирие (19 января 1878 г.), где Горчаков был предельно тверд в болгарском вопросе. Он инструктировал своего представителя Игнатьева: "Особенно твердо стойте на своем во всем, что касается Болгарии".
    Ровно через месяц был подписан окончательный договор с Турцией в Сан-Стефано, приуроченный ко дню рождения Александра II. Болгария получала широкую автономию с включением в нее Македонии; Сербия, Румыния, Черногория признавались независимыми; России возвращалась Южная Бессарабия.
    Итоги этой войны и Сан-Стефанского договора вызвали враждебные возражения не только Англии, но и Австрии. Горчаков предложил по этому поводу устроить конгресс в Берлине, рассчитывая на Бисмарка. Конгресс состоялся в июле того же года, но Бисмарк неожиданно занял нейтральную позицию. Горчаков говорил потом, что против России была "злая воля почти всей Европы". Но он и сам совершил на этом форуме казусную оплошность. Александру Михайловичу к этому времени исполнилось уже восемьдесят лет. Очевидно, в силу преклонного возраста Горчаков по рассеянности вручил английскому делегату лорду Биконсфильду географическую карту для русской делегации. На ней были отмечены максимальные уступки, на которые Россия могла в крайнем случае идти. Биконсфильд, конечно, воспользовался случаем и в основу обсуждения положил именно эту карту. Бисмарк в своих записках жестоко потешался над Горчаковым, утверждая, что именно он отстоял тогда честь России. Но и сам Горчаков признавался потом Александру II: "Берлинский трактат есть самая черная страница в моей служебной карьере".
    После Берлинского конгресса Александр Михайлович практически отошел от дел, хотя формально еще три года считался государственным канцлером России. Сменил его на посту министра иностранных дел барон Н. К. Гире, дипломат среднего уровня, во много раз уступавший такому титану внешней политики, как князь Горчаков. Умер Александр Михайлович в 1883 г. в Баден-Бадене и был похоронен в фамильном склепе в Петербурге. В истории русской дипломатии он был и остается одной из самых ярких и великих фигур.