Детство принца нельзя назвать счастливым. Виктор Эммануил с рождения был очень добрым и нежным мальчиком с мягким, застенчивым характером. Но суровое военное воспитание, традиционное для дома Савойя, не позволяло проявлять эмоции. К тому же его родители, которые практически жили раздельно, крайне редко проводили с ним время. Маргарита брала сына с собой во время официальных поездок по Италии, чтобы продемонстрировать, какая она хорошая мать. Но во дворце она редко проводила с ним время, а отец еще реже.
Принцу сначала нашли кормилицу, которая ухаживала за ним в раннем детстве. Потом, когда Виктор Эммануил подрос, ему разрешалось ужинать с родителями два раза в неделю. Для воспитания Маргарита нашла сыну няню ирландского происхождения по имени Элизабет Ли, а коротко ее называли Бесси. Она растила принца до 14 лет и была в те времена единственным человеком, к которому Виктор Эммануил испытывал сыновнюю привязанность.
Чтобы компенсировать свои физические недостатки, Виктор Эммануил с детства усердно учился. Уже в десятилетнем возрасте он знал генеалогию династии Савойя, начиная от Умберто Бьянкамано. Принцу было девять лет, когда его отец Умберто I взошел на престол после смерти Виктора Эммануила II. Для военного образования принцу выбрали немецкого полковника Эджидио Осио – очень властного и жесткого человека, привыкшего командовать. Тот буквально муштровал наследника престола по прусскому образцу. Говорят, после такого воспитания Виктор Эммануил стал еще более замкнутым и неуверенным в себе. Но, несмотря на это, он сохранил дружеские отношения со своим наставником на всю жизнь.
Кроме домашнего образования, Виктор Эммануил посещал военное училище в Неаполе, много путешествовал по Европе, уезжая на длительные сроки. Принц очень увлекался науками, будучи в Риме он часто посещал заседания старейшей в Европе научной академии Линчеи и других подобных сообществ. Виктору Эммануилу больше всего нравились история, география и нумизматика, он даже написал трактат об итальянской чеканке. Его познания в этих предметах были выше среднего уровня, особенно в области географии. Настолько, что Виктора Эммануила даже вызывали в качестве посредника во время заключения мирных переговоров.
Принц очень любил проводить свободное от своих обязанностей время в замке Раккониджи в Пьемонте. Там он много читал, занимался охотой, которая была его основным увлечением, а также изучал сельское хозяйство. Впоследствии Виктор Эммануил открыл Международный институт сельского хозяйства в Риме. Принц любил читать пьесы Шекспира, но он не увлекался театром. Кроме итальянского языка наследник престола прекрасно говорил на двух диалектах: пьемонтском и неаполитанском. В возрасте 20 лет Виктор Эммануил расстался со своим наставником Осио, но всегда поддерживал с ним переписку.
Принц Савойский переехал в Неаполь, где он прожил пять лет и служил в 1-м пехотном полку. Там у него появился друг Никола Бранкаччо, который показал ему обратную сторону Неаполя, а именно все злачные места. Это был, наверное, самый счастливый период в жизни Виктора Эммануила – молодой, холостой, не обремененный обязанностями правления государством. Днем он исправно нес военную службу, а вечером со своим другом посещал публичные дома и познавал искусство плотской любви. Здесь никому не было дело до его карликового роста, и принц даже сумел преодолеть свою застенчивость.
В тот же период у Виктора Эммануила было несколько постоянных любовниц среди знатных женщин. Возможно, даже родились внебрачные дети, о которых мы не знаем. Хотя больше всего его тянуло к женщинам низкого сословия, танцовщицам и актрисам. Как и его деда Виктора Эммануила II. В военном деле он оказался настолько жестоким и суетливым командиром, что его за это прозвали Черная бестия. А одно из его самых распространенных прозвищ было Шаболетта (sciaboletta), что означает «маленькая сабля», от слова sciabola (шабола) – по-итальянски «сабля». Это была насмешка над тем, что принцу нужна особая, маленькая сабля, чтобы он не волочил ее по земле из-за своего невысокого роста. А когда Виктор Эммануил стал королем, то для него пришлось сделать новый специальный трон, чтобы его ноги не болтались в воздухе.
Во время пребывания в Неаполе у принца возник конфликт с коллегой полковником Луиджи Кадорна. Это положило начало жестокой антипатии, которая длилась всю жизнь Виктора Эммануила и имела свои последствия через 20 лет во время Первой мировой войны. Через пять лет молодой полковник вернулся в Рим, где король Умберто I и Маргарита Савойская озаботились вопросом его женитьбы. Виктору Эммануилу исполнилось 25 лет, а в династии Савойя все мужчины женились раньше этого возраста. Проблема была в том, что у наследного принца не было никакого желания иметь супругу, и в этом вопросе он оказался очень упрям.