Хосе де Сан-Мартин родился в небольшом аргентинском городке Япею в современной провинции Корриентес в семье состоятельных землевладельцев. Отец — дон Хуан де Сан-Мартин был главой департамента Япею. Когда его сыну Хосе исполнилось шесть лет, семья Сан-Мартинов покинула Аргентину, которая была одной из многих испанских колоний в Америке, и переехала в Испанию.
Поселившись в испанской столице Мадриде, родители определили Хосе в престижную Семинарию благородных юношей, которая давала своим воспитанникам самые разносторонние знания. Однако Хосе де Сан-Мартин не закончил семинарию: в свои неполные 12 лет он избрал для себя военную карьеру. В 1789 году, несмотря на протесты родителей, Хосе завербовался в испанскую королевскую армию и отправился в свой первый поход — в Африку — воевать против свободолюбивых мавров. Он участвовал в бою под Мелильей на севере Африки, а в 1791 году отличился при обороне Оранской крепости на территории современного Алжира.
После войны с североафриканскими маврами Сан-Мартин участвовал в войне против французов. В 1793 году Испанское королевство вступило в военную коалицию против республиканской Франции, и на Пиренеях начались военные действия. Юный Хосе де Сан-Мартин сражался в войсках генерала Рикардсона и не раз проявлял храбрость и героизм. Боевые заслуги 15-летнего смельчака были замечены армейским командованием, и он вскоре получил чин младшего лейтенанта. После боев при Пор-Ванде и Кольюре последовала новая награда — чин лейтенанта.
Испания проиграла войну Французской республике и в 1796 году заключила с ней мир. После этого Мадрид начал новую войну, на сей раз против владычицы морей Англии, которая не раз пыталась завоевать часть испанских колоний, прежде всего на американском континенте. 17-летний армейский лейтенант стал флотским офицером. Он вновь отличается в боях теперь уже с новым противником и не на суше, а на море — сперва в сражении при Сан-Висенте в 1797 году, затем в августе 1798 года в ожесточённой схватке на борту испанского фрегата «Святая Доротея», который англичане брали на абордаж.
В юности Сан-Мартин познакомился с французскими республиканцами, которые смело бросили вызов всей монархической Европе. Революционные идеи увлекли молодого офицера испанской королевской армии и в скором времени стали смыслом всей его жизни.
В 1800 году 22-летний Хосе де Сан-Мартин принимал участие в своей четвёртой войне, на сей раз против Португалии, и отличился в бою под Оливенсой. Через два года он воевал у Гибралтара и на севере современного Марокко, в городе Сеуте, который и в следующем веке остался испанской колонией. После этого Сан-Мартин служил в гарнизоне приморского города Кадиса в пехотном полку волонтёров.
В 26 лет Хосе де Сан-Мартин выглядел закалённым на войне офицером, познавшим её тяготы и радость побед. Он не раз проявлял личное мужество и научился водить за собой в атаку солдат. Военное искусство он познавал не в теории, а на практике. Увлечение французскими революционными идеями сделало своё дело.
Когда на Пиренейский полуостров вторглась армия Наполеона, испанская знать вместе с королём Карлом IV бросили страну на произвол судьбы. Королевская чета покинула Мадрид, а Совет Кастилии склонил голову перед завоевателями. Однако именно в Испании наполеоновская армия впервые столкнулась с восставшим народом (второй раз — в 1812 году, когда Великая армия Наполеона вторглась в Россию).
Народное восстание охватило большую часть Испании. Хосе де Сан-Мартин стал командиром одного из партизанских отрядов на юге страны. В 1808 году он участвовал в ожесточённых боях против французских войск. За взятие вражеской позиции на высотах под Архонильей был произведён в капитаны Бурбонского полка. Затем его отряд выиграл бой под Альбуэрой и участвовал в сражении при Байлене.
За отвагу, проявленную в Байленском сражении 19 июля 1808 года, Сан-Мартин был произведён в подполковники. В той битве наполеоновский генерал Дюпон потерпел полное поражение от своего противника генерала Кастаньоса, который имел под своим началом 15 тысяч человек. Французские потери составили свыше 2 тысяч человек. Оставшиеся в живых из 20-тысячного корпуса вместе со своим командиром генералом Дюпоном сдались в плен.
В 1811 году Хосе де Сан-Мартин узнал о Майской революции в Аргентине, на своей родине, которую он помнил смутно. В Испанию стали приходить известия о революционных событиях в Ла-Плате. Освободительное движение охватило все испанские колонии в Латинской Америке.
Сан-Мартин выехал из Испании в Англию, чтобы оттуда отправиться на родину. К тому времени он был уже знаком с членами тайной патриотической организации «Общество Лаутаро» (названо так по имени одного из вождей индейцев-аракуанов, возглавившего в середине XVI века восстание против испанского господства), основанной в Лондоне венесуэльцем Франсиско де Мирандо. Теперь бывший подполковник испанской королевской армии Хосе де Сан-Мартин решил «обнажать свою шпагу только против врагов свободной Южной Америки».