Японское правительство также направило свои войска в Корею, и вскоре японских войск в Корее было больше, нежели китайских. Причем Япония не собиралась выводить свои войска из Кореи даже после того, как восстание тонхаков было подавлено. Японское министерство предложило китайскому послу в Токио создать совместную комиссию для обследования положения и проведения радикальных реформ. Это означало фактический допуск Японии к решению внутренних корейских вопросов.
Ли Хунчжан, занимавшийся всеми дипломатическими переговорами накануне войны, особенно энергично действовал в этом направлении. Он встретился с английским посланником в Китае О'Конором. По сообщению Ли Хунчжана, О'Конор вступил в переговоры с английским консулом в Корее и посланником в Японии для того, чтобы «установить методы примирения». Ли Хунчжан стремился побудить и США к открытому вмешательству. Ли Хунчжан настаивал на скорейшем заключении мира на основе признания независимости Кореи, гарантированной державами, и согласия на выплату денежной контрибуции Японии. Увы, попытки Ли Хунчжана организовать совместный демарш заинтересованных держав не нашли поддержки.
Вступив в военный конфликт с Японией, китайские войска сразу уступили инициативу. Победа Японии была очевидна еще до падения Порт-Артура. К началу марта 1895 года дорога на столицу Китая оказалась открытой. Двор, готовясь бежать из Пекина, спешно формировал посольство во главе с Ли Хунчжаном. 19 марта с многочисленной свитой из 135 секретарей и обслуживающего персонала, сопровождаемый американским «консультантом» Дж. Фостером, Ли Хунчжан прибыл в Симоносеки.
Но прекращение военных действий еще не было выгодно Японии, не закончившей своей программы захватов. Японские представители на первом заседании выдвинули такие неприемлемые для Китая условия перемирия, что Ли Хунчжан вынужден был от них отказаться.
24 марта на Ли Хунчжана, после третьего заседания, было совершено покушение: японский юноша, член японской шовинистической организации «Кокурюкай» («Черный дракон»), выстрелил из револьвера в паланкин, где находился Ли Хунчжан, слегка его ранив: пуля разбила его очки и засела в левой скуле. Рана была несерьезная, и переговоры продолжались.
Война с Японией закончилась для Китая подписанием 17 апреля 1895 года Симоносекского договора, по которому Корея объявлялась полностью независимой. Китайские дипломаты вынуждены были пойти и на территориальные уступки.
Симоносекский договор вызвал бурю возмущения во всей стране. Виновником поражения в войне неожиданно стал Ли Хунчжан: в августе его сместили с поста наместника Чжили, но оставили членом Цзунлиямыня. В этой должности он принимал участие в переговорах с иностранными государствами. Ли Хунчжан даже получил почти номинальное звание канцлера и члена Нэй-гэ (государственной канцелярии).
После Японо-китайской войны Россия предложила Китаю заключить союз, направленный против возможной агрессии Японии, связывая его заключение с проведением части Сибирской магистрали через Маньчжурию. Переговоры эти были начаты в Пекине русским посланником Кассини.
Коронация Николая II в 1896 году была использована для перенесения переговоров непосредственно в Россию, куда по настоянию царского правительства был послан Ли Хунчжан в качестве представителя Китая на торжествах. Эту поездку китайский дипломат пытался использовать для установления непосредственного контакта не только с русским правительством, но и с другими европейскими державами. В конце апрел 1896 года Ли Хунчжан прибыл в Петербург, где почти немедленно начались переговоры с Витте, сторонником «мирного проникновения» Китай.
В мае 1896 года в Москве проходили торжества, посвященные коронации русского царя Николая II. В Большом театре перед началом спектакля был исполнен гимн «Боже царя храни». При исполнении гимна все встал. Ли Хунчжан оставался сидеть. Когда его спросили, почему он не встал, китайский сановник ответил, что по одному из 10 тысяч правил придворного этикета он, как высший сановник, во время исполнения какого-либо национального гимна должен сидеть.
Переговоры велись на основе признания «целостности Китая» и необходимости заключения оборонительного союза. Китай, стоявший перед угрозой раздела его территорий империалистическими державами, возлагал большие надежды на результаты союзного договора с европейской державой. Это придавало особый характер и экономическим концессиям в связи проведением Сибирского пути через Маньчжурию: маньчжурская дорога приобретала для Китая значение как средство для эффективной переброски русских войск в случае необходимости совместных военных действий против японской агрессии.
3 июня 1896 года был подписан секретный русско-китайсшй договор.
Витте добивался, чтобы дорога принадлежала непосредственно правительству России, но Ли Хунчжан здесь не уступил, так как был связан соответствующей инструкцией. Поэтому постройка и эксплуатация дороги возлагалась на Русско-Китайский банк.