В 1811 году по поручению саксонского короля (он же глава Великого герцогства Варшавского) Понятовский ездил с дипломатической миссией в Париж, но она особого успеха не имела. В войне Наполеона против России в 1812 году Понятовский командовал 5-м (польским) корпусом Великой армии. С началом боевых действий его корпус (35 тыс. человек) входил в состав правофланговой группировки наполеоновской армии, возглавляемой вестфальским королем Иеронимом (младший брат Наполеона — Жером Бонапарт). Первое крупное сражение, в котором приняли участие польские войска в этой войне, было Смоленское [4—6 (16—18) августа 1812 года]. В ходе его Понятовский командовал правым флангом французской армии. Его войска наступали на Смоленск с востока и юго-востока, сосредоточив основные усилия на овладении городскими предместьями Никольское и Раченки. Но в борьбе за них они понесли большие потери, так и не сумев ворваться в город. Впрочем, такая же неудача постигла и французские корпуса, наступавшие на Смоленск с других направлений. Овладеть Смоленском штурмом наполеоновской армии не удалось. Русские войска, отразив все атаки противника, сами оставили объятый пламенем город и продолжили отступление в глубь страны.
В сражении при Бородино [26 августа (7 сентября) 1812 года] корпус Понятовского действовал на правом фланге наполеоновской армии, ведя упорную борьбу в районе Утицкого леса. Сломить стойкое сопротивление оборонявшихся там русских войск и нанести удар во фланг и тыл сражавшимся на Семеновских флешах войскам Багратиона полякам не удалось. И под Смоленском, и при Бородино Понятовский проявил выдающуюся отвагу и большую личную храбрость, действовал умело и решительно, с полным напряжением сил, стремясь во что бы то ни стало выполнить поставленную задачу, но и противник сражался с неменьшей стойкостью и отвагой. Поэтому достигнутый в конечном счете в обоих этих сражениях успех был куплен слишком дорогой ценой. Знаменателен такой факт. После занятия Москвы Понятовский потребовал от своих генералов ни в коем случае не допустить грабежей и мародерства в городе. В своем приказе по корпусу он писал: «Мы пройдем Москву с ее брошенными сокровищами, и никто не покинет рядов, позарившись на них». Данный пример подтверждает, что князю Юзефу были не чужды законы рыцарской чести.
Большие потери польский корпус понес в последующих боях, особенно при отступлении Великой армии из пределов России. В сражении под Вязьмой [22 октября (3 ноября) 1812 года] 5-й корпус пытался оказать помощь отрезанному русскими войсками от главных сил арьергарду маршала Даву, но сам подвергся мощным атакам противника и вынужден был отступить. Тем не менее отвлечение им на себя крупных сил противника серьезно облегчило положение французского арьергарда и в конечном счете позволило ему избежать неминуемого уничтожения. К середине ноября 1812 года польский корпус практически перестал существовать. К этому времени в его рядах оставалось не более 800 человек. Сам Понятовский, получивший в бою 29 октября сильную контузию и к тому же еще вскоре серьезно заболевший, вынужден был покинуть армию и уехать в Польшу.
Из Русского похода на родину вернулось лишь около 2 тыс. поляков. Это были жалкие остатки погибшего 5-го корпуса, а также многих польских частей и соединений, входивших в состав других корпусов Великой армии, в том числе и Императорской гвардии.
Оправившись от болезни и контузии, Понятовский вновь вернулся в строй и проявил большую энергию в деле организации новой польской армии. Однако воссоздать ее в прежнем виде ему уже не удалось. Значительная часть вновь сформированных войск пошла на укомплектование гарнизонов крепостей Модлин и Замостье, а с оставшимися силами (8—10 тыс. человек) Понятовский отступил за реку Пилица на соединение с австрийским корпусом князя Шварценберга, а уже оттуда вместе с австрийцами отошел в Галицию.
Поражение в России князь Иосиф переживал очень тяжело. Когда он прибыл на встречу с уцелевшими участниками Русского похода, те бурно приветствовали его. «Да здравствует Польша!», «Да здравствует Отчизна!» — неслось из рядов ветеранов. Взволнованный до глубины души Понятовский, не стыдясь выступивших на глазах слез, поклялся тогда перед своими боевыми товарищами: «Мы будем драться, мы отомстим!»
В соответствии с договоренностью, заключенной с австрийским правительством, Понятовский отвел свои войска из Галиции в Саксонию, где присоединился к главным силам французской армии. Находившиеся под его командованием войска образовали 8-й (польский) корпус наполеоновской армии (март 1813 года). Во главе его Понятовский участвовал в кампании 1813 года в Германии. Однако на первом этапе этой кампании его немногочисленный корпус[18] активного участия в боевых действиях не принимал. В конце данного периода он был направлен на прикрытие австрийской границы в район Циттау.