Род Колчака был известен в Российской империи с 1739 года, когда в плен к русским войскам попал Колчак-паша, комендант турецкой крепости Хотин. Он был боснийским сербом, принявшим мусульманство и сделавшим карьеру в султанской армии. После окончания Русско-турецкой войны паша остался жить в России, в ее столице: в Стамбуле ему скорее всего не простили бы сдачу самой важной северной крепости Оттоманской Порты.
Александр Колчак свое обучение начал в 6-й Петербургской классической гимназии, а окончил в Морском училище (Морском кадетском корпусе). Из корпуса выпустился в 1894 году вторым по списку с премией адмирала П. И. Рикорда. Штурманское дело совершенствовал в Кронштадтской морской обсерватории.
В 1894 году выпущен из училища в чине мичмана, начав службу в столичном 7-м флотском экипаже. В начале следующего года назначается вахтенным начальником на достраивающийся в Кронштадте броненосный крейсер 1-го ранга «Рюрик», героический корабль Японской войны. Осенью 1895 года совершает на нем плавание в воды Дальнего Востока.
В мае 1899 года Колчак возвратился в Кронштадт на крейсере 2-го ранга «Крейсер» в должности вахтенного начальника. В эти годы у него проявился серьезный интерес к морским научным исследованиям, к океанографии и гидрологии. В 1898 году следует производство в лейтенанты. Он пытается принять участие в экспедиции С. О. Макарова на ледоколе «Ермак», но это ему не удается по «служебным обстоятельствам»: экспедиция была уже укомплектована полностью.
В сентябре 1899 года Александр Колчак был назначен вахтенным начальником на эскадренный броненосец «Полтава». Но через две недели его перевели на такую же должность на другой эскадренный броненосец, «Петропавловск», который отправлялся на Дальний Восток, чтобы там стать флагманским кораблем Тихоокеанской эскадры.
В самом начале дальнего океанского похода, в греческом порту Пирей, следует новое назначение. Лейтенант А. В. Колчак получает разрешение принять участие в полярной экспедиции Академии наук в качестве гидролога. В январе 1900 года Колчак на торговом пароходе прибывает в столичный Санкт-Петербург.
Полярным исследователем Александр Колчак стал 21 января, после приглашения барона Э. В. Толля принять участие в полярной экспедиции. Основанием для этого стали опубликованные им работы по океанографии. 25-летний флотский офицер назначается вторым помощником командира экспедиционного судна – трехмачтовой парусно-паровой шхуны «Заря» грузоподъемностью в 450 тонн.
В задачи Русской полярной экспедиции входили проход (второй раз в истории мореплавания) Северным морским путем, исследование Новосибирских островов и поиск легендарной «Земли Санникова». К походу лейтенант Колчак упорно готовился три месяца: в Главной физической обсерватории в Санкт-Петербурге, в Пулковской магнитной обсерватории и в Норвегии, у знаменитого полярного исследователя Ф. Нансена.
В июле 1900 года «Заря» начала полярное плавание у берегов полуострова Таймыр. В сентябре ей пришлось встать на зимовку, которая длилась 11 месяцев. Александр Колчак занимался картографическим описанием таймырского побережья, исполнял работу гидрографа, гидролога и магнитолога экспедиции в море и на берегу. Открывались новые острова, один из которых, у берегов Таймыра, был назван именем Колчака (в советское время переименованного в остров Расторгуев).
В сентябре 1901 года последовала вторая зимовка экипажа шхуны «Заря». Колчак руководил поисками пропавшей группы Толля. В 1903 году лейтенант А. В. Колчак за участие в исследовании Арктики был награжден орденом Святого Владимира 4-й степени. В 1905 году Русское географическое общество удостоило его Большой золотой Константиновской медали, а через год избрало своим действительным членом.
По материалам проведенных исследований вышла книга «Льды Карского и Сибирского морей», переведенная на ряд языков. Неофициально исследователя стали часто называть «Колчак-Полярный». Сегодня признано то, что Александр Васильевич Колчак является выдающимся отечественным ученым-гидрографом и полярным исследователем.
С началом Русско-японской войны 1904–1905 годов старший лейтенант А. В. Колчак прибывает в морскую крепость Порт-Артур. Перед тем как стать командиром миноносца «Сердитый», служил на крейсере «Аскольд» и минном транспорте (заградителе) «Амур». На «Сердитом» 85 раз выходил в море. На минной банке, поставленной эсминцем, подорвался японский бронепалубный крейсер «Такасаго».
С ноября 1904 года Колчак – командир артиллерийской батареи 47-мм и 120-мм орудий на северо-восточном участке сухопутной обороны Порт-Артура. Личный состав батареи состоял из моряков. Весной 1905 года вернулся в Россию из японского плена, находясь в Нагасаки. После возвращения из плена офицера уволили в шестимесячный отпуск для лечения.