Наступление японских войск началось в ночь на 28 мая. К этому времени советско-монгольские войска занимали позиции в нескольких километрах от границы. Ширина полосы их обороны составляла около 20 километров. Войска были вытянуты в одну линию, причём кавалерийские полки монгольской армии вместо того, чтобы охранять фланги, заняли оборону в центре. Эта ошибка привела затем к непредвиденным последствиям. Японо-маньчжурские войска обладали численным превосходством по количеству штыков в 2,5 раза и сабель — в 3,5 раза, зато советско-монгольские войска превосходили их по орудиям крупных калибров в 1,5 раза и по бронемашинам в 5–6 раз. Это преимущество в тяжёлой боевой технике и решило в конечном счёте исход боя.
Общее руководство боевыми действиями в районе Халхин-Гола было возложено японским командованием на командира 23-й пехотной дивизии генерал-лейтенанта Камацубара. 21 мая генерал подписал свой первый боевой приказ. В этом документе, один из экземпляров которого был потом захвачен советскими войсками, дивизии приказывалось уничтожить войска Внешней Монголии в районе Номонхана (то есть Халхин-Гола). Камацубара считал, что выделенных частей для уничтожения советско-монгольских войск вполне достаточно. 1500 штыков, 1000 сабель, 75 пулемётов, 12 орудий и 8 бронемашин были сосредоточены для удара по тонкой цепочке советско-монгольских войск, оборонявшихся в нескольких километрах от границы.
На рассвете 28 мая группа японской авиации численностью около 40 самолётов обрушила бомбовый удар по центральной переправе через Халхин-Гол, тылам и расположению советско-монгольских войск. На правом фланге, пользуясь открытым пространством, вдоль реки с севера на юг к переправе наступала ударная группа японских войск: отряд подполковника Адзама и батальон 64-го пехотного полка. Их задача заключалась в том, чтобы обойти левый фланг советско-монгольских частей, выйти им в тыл к переправе и отрезать пути отхода на западный берег реки. На левом фланге по южному берегу Хайластын-Гола наступали части баргутской конницы, которые также должны были выйти к переправе и способствовать окружению советско-монгольских войск.
Упорные бои продолжались весь день 28 мая. Оборонявшиеся в центре полки монгольской конницы не выдержали удара превосходящих сил противника и начали отходить. К вечеру 28 мая левофланговые советско-монгольские части отошли к линии песчаных холмов в 2–3 километрах от устья Хайластын-Гола и закрепились там, начав возведение укреплений. Одна рота отошла к высоте Дунгар-Обо, находящейся в четырёх километрах от Халхин-Гола, и закрепилась на ней. Несмотря на большое численное превосходство, разгромить советско-монгольские войска японцам не удалось.
Не удался и обходной маневр японских частей. Следуя на машинах вдоль восточного берега реки к переправе, японские войска попали под огонь артиллерийской батареи. Против японских частей были брошены бойцы 1-й роты, а также сапёрная рота сводного отряда, находившаяся у переправы. Отлично действовали артиллеристы, которые подбили машину подполковника Адзума и две бронемашины, охранявшие штаб его отряда. В машине подполковника была захвачена топографическая карта района боевых действий с чётко обозначенной границей и боевой обстановкой, показывавшей, что боевые действия ведутся на монгольской территории. В январе 1948 г. эта карта была предъявлена советским обвинением на Токийском процессе в качестве доказательства нарушения монгольской границы японскими войсками. После нескольких контратак бойцов 1-й роты и сапёров лишившийся руководства японский обходной отряд был почти полностью уничтожен.
К 19 часам 28 мая к переправе через Халхин-Гол подошли первые машины с подразделениями 149-го стрелкового полка, перебрасываемого из Тамцак-Булака. Положение было тяжёлым, так как на восточном берегу реки у советско-монгольских войск оставался небольшой участок, насквозь простреливаемый ружейно-пулемётным огнём. Поэтому подразделения полка вводились в бой сразу же по частям по мере их прибытия и без организованного взаимодействия с артиллерией. Естественно, что в этот день оказать какое-либо влияние на ход боя они не могли. Утром 29 мая советско-монгольские части при поддержке артиллерии перешли в наступление. К 12 часам японские части были отброшены на несколько километров, понеся большие потери в живой силе и технике.
