В ночь на 1 сентября войска 16-й армии форсировали Вопь и заняли исходное положение для атаки. Противник, еще не понимая, в чем дело, вел беспорядочный огонь из орудий и минометов по районам предполагаемого сосредоточения и переправ наших войск. В половине седьмого утра началась артиллерийская подготовка. Рокоссовский с офицерами штаба покинул армейский наблюдательный пункт, находившийся в лесу, и, чтобы яснее видеть картину боя, направился к реке. Миновав овраг на опушке леса, Константин Константинович поднялся на береговую возвышенность, откуда виднелась деревня Кровопусково. Здесь находился вражеский опорный пункт, которым в скором времени предстояло овладеть войскам 16-й армии.
После получасовой артподготовки пехота при поддержке огневого вала артиллерии и в сопровождении танков двинулась вперед. Сломив сопротивление противника на переднем крае, советские бойцы начали продвигаться в глубь обороны врага, и бои уже шли за Кровопусково. Тогда Рокоссовский решил спуститься вниз. Он, а за ним и работники штаба переправились на противоположный берег Вопи. Командарм, как обычно, был в полной форме и при всех орденах. Такое демонстративное поведение было понятно поначалу далеко не всем. Член военного совета армии А. А. Лобачев, вспоминая о Смоленской операции, позже напишет:
Артиллерии не удалось полностью подавить огневые средства врага в глубине обороны, и пехоту встретил шквал минометного и пулеметного огня. Но было уже поздно: ворвавшись в расположение противника, части армии упорно продвигались вперед. Враг начал отходить. К 11 часам авиационная разведка донесла, что от Смоленска и Духовщины к фронту направляются большие колонны автомашин с пехотой. К концу дня эти резервы врага вступили в бой, его сопротивление усилилось, и упорное сражение продолжалось до глубокой ночи.
С рассвета 2 сентября бой возобновился, и начался он налетами советской авиации на позиции немецких войск. Воспользовавшись тем, что бомбежка загнала вражеских солдат глубоко в землю, пехота 16-й армии сумела сблизиться с противником на 150—200 метров и после короткой артиллерийской подготовки при поддержке танков вновь бросилась в атаку. Неприятель опять оказал упорное сопротивление, но, не выдержав натиска, начал отходить.
Немецкое командование, обеспокоенное явно обозначившейся возможностью прорыва обороны, подтянуло к вечеру 3 сентября танки, а затем предприняло контратаки силами одного-двух полков с разных направлений. В результате перегруппировки сил противнику удалось ликвидировать незначительное преимущество войск 16-й армии в живой силе и технике. Бои приняли затяжной характер, а 5 сентября под ударами превосходящих сил противника соединения армии начали отход на прежние позиции.
Смоленск оказался недосягаемым для войск 16-й армии. Но своими действиями они отвлекли часть резервов противника, предназначавшихся для боев под Ельней. Это позволило 24-й армии освободить 6 сентября Ельню. Заслуги 16-й армии были оценены по достоинству. Ее дивизии – 1-я Московская мотострелковая и 64-я стрелковая – вскоре были преобразованы в гвардейские. Рокоссовский 11 сентября получил очередное воинское звание генерал-лейтенанта. Позже, 22 сентября, Константин Константинович сообщил жене:
