Одновременно с битвой в Галиции произошло еще одно сражение в Восточной Пруссии. Конрад еще раньше обращался за помощью к Гинденбургу, предлагая ему двинуть войска на юг, добить 2-ю армию и через Польшу ударить по тылам русских армий, наступающих на австрийцев. Но германское командование сочло такой план слишком рискованным, подставлять свой фланг армии Ренненкампфа Гинденбургу как-то не улыбалось. И он выбрал более надежный вариант - развернуться против 1-й русской армии, над которой после прибытия 2,5 корпусов с Западного фронта имел двойное преимущество. Главные силы Ренненкампфа, нацеленные Жилинским на осаду Кенигсбурга, сконцентрировались на северном фланге, и немцы решили ударить по южному, где находился лишь один 2-й корпус и конница. Планировалось прорвать здесь фронт, глубоко охватывая всю армию и отрезая ей пути отхода в Россию, оттеснить к морю и болотам Нижнего Немана и уничтожить. Ренненкампф учитывал подобную угрозу и приказал своей кавалерии вести неослабное наблюдение за районом Летцена. Но немцы вели перегруппировку в 2 - 3 переходах от линии фронта, выставив сильные заслоны, и кавалерийская разведка не смогла обнаружить их развертывания.
5.9 корпуса Гинденбурга начали выдвижение из-за линии Мазурских озер, 8.9 отбросили передовые отряды из окрестностей Летцена, а 9.9 перешли в общее наступление, нанеся поражение частям русского 2-го корпуса и заставив их отступать. Ренненкампф срочно снял с правого фланга 20-й корпус и ускоренными переходами бросил его на левый, чтобы не допустить охвата. И в это же время, 9.9, с юга перешла в наступление 2-я русская армия - по всем реляциям якобы уничтоженная неделю назад, но уже восстановившая боеспособность, пополненная 2 свежими корпусами и вынудившая немцев повернуть часть сил против нее. На фронте 1-й армии они также получили сильный отпор. Завязались упорные бои за г. Гольдап, где находился узел дорог. Германским войскам удалось овладеть им, но 11.9 после 100-километрового марша подоспел 20-й корпус ген. Булгакова, с ходу контратаковал и отбросил 1-й германский корпус Франсуа. В результате этих боев Рененкампфу удалось благополучно отвести свои войска из намечаемого мешка.
14.9 немцы попытались изменить направление и обрушили удар на 2-ю армию Шейдемана. Но и тут были отражены. А тем временем Австро-Венгрия потерпела катастрофу, войска Юго-Западного фронта выходили на подступы к Силезии, и германская Ставка потребовала от Гинденбурга спасать положение. Поэтому 15.9 опять последовали атаки против 1-й и 2-й армий, но уже не преследующие решительных целей, а чисто демонстративные. Ряд соединений отводился в тыл для переброски на помощь австрийцам. А остающимся было приказано атаковать, чтобы замаскировать отвод. В ходе операции русские войска понесли существенные потери - главным образом, за счет второочередных дивизий, сформированных из запасников. Но и германская сторона претерпела очень большой урон, а решить поставленную задачу не смогла. В это время произошла замена главнокомандующего Северо-Западным фронтом. Вместо снятого Жилинского был назначен Рузский. Он умел себя преподнести, и его сочли главным героем побед в Галиции - хотя эти победы обеспечили успехи Брусилова и Плеве. Рузский повел себя чрезвычайно осторожно, рисковать обретенной славой не хотел. К тому же новое наступление в Пруссии не диктовалось стратегическими соображениями, цель сорвать план Шлиффена была выполнена. И Рузский приказал армиям отойти, 1-й за Неман, а 2-й за Нарев. На этих рубежах они и закрепились. Кроме того, сюда перебрасывались 5 корпусов из Туркестана, Сибири, с Кавказа, и для для будущих операций в районе Августова стала формироваться новая, 10-я армия под командованием ген. Сиверса.
Тем временем отступление австро-венгерских армий в Галиции принимало все более беспорядочный характер. Откатывались уже без боев, бросая пушки, обозы, оружие, сдаваясь в плен. Правда, окружить и уничтожить их не удалось. Сказывалась и усталость русских войск, и недостаток дорог. Например, Брусилов докладывал Иванову, что в полосе его армии можно было выделить каждому корпусу только одну дорогу, и на ней получалась "кишка" из войск и обозов в 60 верст. Поэтому преследование сводилось, в основном, к занятию районов, оставляемых противником. Австрийское командование наметило стабилизировать фронт по естественным рубежам. Армии отводились к Карпатам и за р. Сан, где их могла поддержать мощная крепость Перемышль, а левый фланг прикрывался полноводной Вислой.