Весть об этом ужасном поражении произвела в Риме в буквальном смысле одуряющее и подавляющее впечатление. Многие благородные юноши, охваченные отчаянием, бежали в Канузий, хотели уже сесть на корабль и покинуть отечество. Тогда среди них выступил молодой П. Корнелий Сципион — сын Сципиона, побежденного при реке Тицин — и, обнажив меч, пригрозил заколоть всякого, кто не поклянется остаться верным отечеству до последней капли крови. В Риме женщины с воплями и с распущенными волосами бросились на площадь, как будто их собственная жизнь была уже в опасности. Совсем другое было с мужчинами. Оба претора немедленно созвали сенат. Именно здесь, а не где-нибудь в другом месте должен был выказаться истинный дух римлян. Престарелый Фабий превзошел в этом отношении всех. Он первый выступил с благоразумными советами и прежде всего указал средства к скорейшему успокоению народа. По его совету сенат приказал запереть городские ворота, чтобы воспрепятствовать бегству малодушных. Женщинам запрещено было громко выражать свои жалобы, бегать без цели по улицам и собирать сведения о действительных масштабах бедствия. Затем сенаторы обошли дома и успокоили отцов семейств. Престарелый Фабий со своим обыкновенным невозмутимым видом прошел по улицам и полными достоинства речами ободрял граждан. Было принято постановление сената, в силу которого ни по ком из убитых при Каннах не разрешалось носить траур более тридцати дней. Консул Теренций Варрон был отозван в Рим, а на его место, как благоразумный полководец и испытанный уже претор, был отправлен в Канузий М. Клавдий Марцелл, который спасся в этом городе с 10.000 беглецов. Когда злополучный полководец возвращался в Рим, справедливо опасаясь оскорблений и упреков своих сограждан, сенат в полном составе вышел ему навстречу и всенародно благодарил его за то, что он не отчаивался в спасении государства. Равным образом было решено, что взятые в плен при Каннах римские воины не должны быть выкуплены, ибо «римский солдат должен или победить или умереть». И когда после всего этого Ганнибал через посланного им Карфалона сделал мирные предложения, то Карфалона не только не впустили в город, но и объявили ему за городской чертой, что до тех пор не может быть никакой речи о мире, пока неприятель не очистит Италию. Эта героическая твердость и единодушие спасли государство и даже вознаградили те ужасные, потери, которые уже были понесены римлянами в течение трех лет. Почти вся Нижняя Италия могла считаться для римлян потерянной. Могущественная Капуя, имевшая возможность выставлять в поле 30.000 пехоты и 4.000 всадников, отпала, несмотря на усилия Деция Магия, предводителя расположенной к римлянам аристократической партии. Впоследствии Ганнибал приказал его схватить и отвезти в Карфаген. Но корабль занесло в Кирену, и Магий пробрался отсюда в Александрию к царю Птолемею, который отпустил его на волю. Примеру Капуи последовали самнитяне и луканы. Римлянам остались верными Брундизий, Венузия и Пест с преобладавшим в них латинским населением, а также близлежащие к ним Неаполь, Кумы, Нола и Нуцерия. Таким образом, после битвы при Каннах могущественный народ был ограничен такой же маленькой областью, какую он занимал до самнитских войн.
Чтобы пополнить убыль в римских войсках, вновь избранному диктатору М. Юнию пришлось набирать из самых юных по возрасту граждан, способных носить оружие, — 17-летних. Однако эта мера оказалась недостаточной и пришлось вооружить рабов, которых в то время было довольно значительное число. Не отступили даже перед освобождением из тюрем и вооружением преступников. Таким образом 8.000 рабов и 6.000 преступников вступили в ряды войска наравне с полноправными римскими гражданами и союзниками.
После победы при Каннах Ганнибал, казалось бы, должен был двинуть свое войско прямо на Рим, но вместо этого он предпочел направиться в Нижнюю Италию. Вопрос о том, почему великий полководец принял такое решение, многократно обсуждался как в древние, так и в новейшие времена, и то, что он не предпринял немедленного похода на Рим, представлялось непростительной ошибкой с его стороны. Ливий вкладывает в уста предводителя карфагенской конницы Магарбала следующие слова, обращенные к Ганнибалу в день сражения при Каннах: «Ты ведь знаешь, что приобрел ты этой победой: через пять дней ты будешь пировать в Капитолии как победитель. Следуй за мной! Я поспешу вперед с конницей для того, чтобы уведомить о моем приходе раньше моего появления». Когда же Ганнибал высказал свое мнение по этому предмету, Магарбал сказал: «Воистину, боги не наделяют одного человека всеми талантами. Ты умеешь побеждать, Ганнибал, но не умеешь пользоваться победой». К этому Ливий прибавляет, что почти все думали, что промедление Ганнибала в этот день спасло и Рим и все государство.