В последующие несколько лет Александр Колчак служил на различных кораблях на Тихоокеанском и Балтийском флотах, получил чин лейтенанта, собирался участвовать в англо-бурской войне, но особый интерес у молодого офицера вызывали исследования Арктики. В 1900 году А. В. Колчаку удалось попасть в состав полярной экспедиции барона Э. В. Толля, который заинтересовался научными статьями лейтенанта, опубликованными в «Морском сборнике». Александр Васильевич руководил гидравлическими работами, занимался гидрохимическими исследованиями, изучал состояние морских льдов и собрал немало ценнейших сведений о прибрежных районах Северного Ледовитого океана. Барон Толль высоко оценивал усилия и талант Колчака и даже назвал его именем мыс и один из открытых экспедицией островов в Таймырском заливе.
Не найдя легендарную Землю Санникова, в мае 1902 года барон Толль вместе с небольшой группой решил отделиться от основной экспедиции и самостоятельно исследовать остров Беннетта. Продолжительное время судьба участников этого рискованного похода оставалась неизвестной. В 1903 году Колчак возглавил спасательную операцию, в ходе которой выяснилось, что группа покинула остров осенью 1902 года и, по всей вероятности, погибла. Впоследствии за Русскую полярную экспедицию А. В. Колчак был награжден орденом Святого Владимира 4-й степени, избран действительным членом Императорского Русского географического общества и удостоен его высшей награды – золотой Константиновской медали.
Начало Русско-японской войны Колчак встретил в Якутске. Стремясь попасть на фронт, он безотлагательно подал ходатайство о переводе в Морское ведомство. Но по прибытии в Порт-Артур боевой должности лейтенант добился не сразу: адмирал С. О. Макаров, которого Колчак считал наставником, назначил его вахтенным начальником на крейсер 1-го ранга «Аскольд». После трагической гибели адмирала Александр Васильевич смог перевестись на минный заградитель «Амур», а через несколько дней получил в командование эскадренный миноносец «Сердитый».
Основными задачами кораблей 2-го отряда, в котором состоял и «Сердитый», были охрана входа в гавань и сопровождение тралящих судов. Но Колчаку хотелось большего: он мечтал о наступлении и боях с врагом лицом к лицу. В начале мая молодой и подающий надежды морской офицер принял участие в постановке минных заграждений, на которых вскоре подорвались два японских броненосца. А в ноябре благодаря расставленным им минам был уничтожен крейсер «Такасаго», что впоследствии стало для Колчака предметом особой гордости.
Осенью основной театр военных действий переместился на сушу. По собственной просьбе в связи с состоянием здоровья А. В. Колчак был переведен на сухопутный фронт и принял в командование артиллерийскую батарею. До момента капитуляции крепости он находился непосредственно на передовой, постоянно участвуя в сражениях с противником. За заслуги и проявленную храбрость при обороне Порт-Артура его наградили несколькими орденами, а также Георгиевским оружием.
Вернувшись из непродолжительного плена и пройдя лечение в госпитале, Александр Васильевич находился в шестимесячном отпуске. Это время он всецело посвятил военной и научной деятельности. Так, он стал председателем Петербургского военно-морского кружка. Создавшие его молодые офицеры радели за возрождение и исправление недостатков русского флота, который фактически был уничтожен во время Русско-японской войны. На основе этого кружка в 1906 году был образован Морской генеральный штаб, в работе которого лейтенант Колчак принимал активное участие. Также в этот период он часто выступал в Государственной думе в качестве эксперта по военно-морским вопросам, пытаясь убедить депутатов в необходимости выделить требуемое финансирование для строительства новых линейных кораблей. К сожалению, эти проекты тогда не были приняты к реализации.
Параллельно с деятельностью по обновлению русского флота Александр Васильевич погрузился в науку, работая с материалами полярных экспедиций и составляя специальные гидрографические карты. Его имя стало известным в научных кругах. Колчак опубликовал несколько важных научных работ, подготовил три карты для издания Академией наук. А в 1909 году вышло в свет его фундаментальное исследование – монография «Лед Карского и Сибирского морей», в которой были заложены основы изучения морского льда. Кстати, эта работа была включена в сборник трудов 30 самых известных полярников мира, выпущенный Американским географическим обществом в 1928 году.
В 1909 году А. В. Колчак, уже имея чин капитана 2-го ранга, в должности командира ледокола «Вайгач» принял участие еще в одной экспедиции, нацеленной на открытие Северного морского пути. Однако до ее завершения он был отозван в Петербург для продолжения службы в Морском генеральном штабе. В 1911–1912 годах на посту начальника 1-й оперативной части Александр Васильевич разрабатывал программы судостроения, писал теоретические работы, трудился на преподавательском поприще.
В апреле 1912 года А. В. Колчак был назначен командиром эскадренного миноносца «Уссуриец», а в мае 1913 года получил в командование миноносец «Пограничник». В декабре его произвели в капитаны 1-го ранга, а также назначили на должность начальника оперативного отдела штаба командующего морскими силами Балтийского флота. Летом 1914 года, незадолго до начала Первой мировой войны, Колчак стал флаг-капитаном по оперативной части в штабе командующего адмирала Н. О. Эссена.
В первые месяцы войны тактика Балтийского флота была в основном оборонительной. Однако с осени, когда после захвата немецкого крейсера стало известно, что силы противника на Балтике не так велики, зазвучали мнения о необходимости более решительных действий. А. В. Колчак был одним из офицеров штаба Эссена, выступавших за установку минных заграждений непосредственно у берегов Германии. Он активно включился в разработку соответствующих операций. В октябре 1914 года первые мины появились вблизи Мемеля, и результат не заставил себя ждать: в начале ноября на них подорвался германский броненосный крейсер «Фридрих Карл».
В феврале 1915 года А. В. Колчак получил в командование полудивизион особого назначения из четырех миноносцев, которому удалось осуществить дерзкую операцию – в сложнейших погодных условиях расставить около 200 мин в Данцигской бухте. Сегодня историки по-разному оценивают потери Германии, вызванные нашими минными заграждениями. Тем не менее, по некоторым данным, только вблизи Данцига пошли ко дну, подорвавшись на русских минах, 4 немецких крейсера, 8 миноносцев и 23 транспорта. В августе 1915 года именно минные эти поля помешали германскому флоту прорваться в Рижскую бухту.
В сентябре Колчак заменил заболевшего адмирала П. Л. Трухачева на посту командира Минной дивизии, которая действовала в районе Рижского залива, помогая нашим сухопутным войскам Северного фронта. Вскоре Александр Васильевич приступил к разработке дерзкой операции в тылу у противника, реализацией которой он впоследствии руководил лично. 9 октября 1915 года русский десант высадился на побережье Рижского залива у селения Домеснес, что стало полной неожиданностью для немцев, потерявших в результате более 40 человек убитыми. Был уничтожен германский наблюдательный пункт, захвачены пленные и трофеи. Вообще же корабли Колчака оказали существенную поддержку 12-й армии Р. Д. Радко-Дмитриева, которая воевала под Ригой, и сыграли большую роль в обороне Рижского залива. За эти заслуги командир Минной дивизии был удостоен ордена Святого Георгия 4-й степени.