Дальневосточный театр военных действий не был незнакомым для Макарова. Уже в марте 1900 г. он предоставил секретную записку «Мнение об организации обороны Порт-Артура». В ней провидчески говорилось: «Япония прежде всего займет Корею, а нашему флоту, оперирующему вдали от баз, будет невозможно помешать высадке японцев в каком угодно месте. Заняв Корею, японцы двинутся к Квантунскому полуострову и сосредоточат там более сил, чем у нас. Это будет война за обладание Порт-Артуром. Падение Порт-Артура будет страшным ударом для нашего положения на Дальнем Востоке». Макаров, в отличие от многих, был очень высокого мнения о японцах. «В Японии уже пять столетий нет ни одного неграмотного. О таком народе нельзя сказать, что он не просвещен. Из поколения в поколение японцы…. привыкли учиться, вот почему они так быстро научились всему европейскому в такой короткий срок».
Макаров прибыл 7 марта 1904 г. Усталый и опустошенный, адмирал Старк еще продолжал поднимать свой флаг над «Петропавловском», но Макаров уже обозначил свое пребывание на новом флагмане — крейсере «Аскольд» своим вымпелом главнокомандующего. Когда его адмиральский флаг взвился в воздух, моряки в бухте Порт-Артура перекрестились: «Батюшка взялся за дело». Уже в день прибытия Макарова незадачливо севший на мель броненосец «Ретвизан» был снят с нее и приведен в гавань. Хватит глупостей, нужно работать — новый дух витал в воздухе наступающей весны. Как и противостоящие ему японцы, адмирал Макаров был фаталистом в лучшем русском смысле этого понятия. Его слова: «Судьба владеет нами, и, если она призывает, нужно следовать ее зову. Все, что требуется — это следовать своему долгу. Не торопись. Нет ничего особенного в смерти, но глупо погибнуть бессмысленно».
Командовать при помощи коротких записок, написанных зеленым карандашом на клочках бумаги, он не мог. О Макарове служивший под его началом офицер писал: «Часто у нас не было времени даже для еды или сна; и все же это была превосходная жизнь. Что особенно характерно для Макарова, так это ненависть к рутине, ненависть к старой системе перекладывания ответственности на других, к попыткам избежать независимости в действиях». Его кредо было — не смешивать войну с политикой. Это явно смотрелось как нечто противоположное поведению наместника Алексеева, большого властолюбца, склонного к политической интриге. Макаров был категорически против пресечения инициативы подчиненных офицеров. Отсутствие инициативы уже показало свои негативные стороны под Порт-Артуром, где в доках стояли искореженные русские корабли, капитаны которых слишком повиновались глупому приказу и не выставили дозора даже тогда, когда последний японец покинул город.
Неудачным обстоятельством было наличие в Порт-Артуре только двух сухих доков, причем строительство обоих еще не было завершено. Казна пока не выделяла нужных денег; в Петербурге указывали, что «корабли на Дальнем Востоке практически новые» и доки им нужны не в первую очередь. Из столицы прибыли остро необходимые специалисты. Их усилиями броненосцы «Ретвизан» и «Цесаревич» снова вошли в воду. Макаров командовал флотом всего три дня, когда последовал его приказ: две флотилии эсминцев выходят в море в поисках японского флота. Для противника это было сюрпризом. Японцы явно не ожидали в ближайшее время встретить русские корабли за пределами бухты Порт-Артура. Ошиблись. 9 марта 1904 г. произошла встреча четырех российских миноносцев с четырьмя японскими миноносцами. Официальная японская история признает, что столкновение было неожиданным для японских моряков — до сих пор русские, при виде кораблей противника, стремились на полной скорости уйти от боя. Сейчас они боя ждали. Последовали потери с обеих сторон, но на этот раз это была практически равная схватка. Что-то улучшилось в русском флоте, бог войны благосклоннее посмотрел на русскую сторону.
Японцам удалось потопить эсминец «Стерегущий», но на этот раз безнаказанность не поощрялась. Адмирал Макаров, вопреки всем формальным правилам, лично на вездесущем «Новике» бросился отомстить, но наткнулся на весь «дымное стадо» всего японского флота, который адмирал Того вел к Порт-Артуру. Все экипажи, выстроившись на палубе, салютовали отважному главнокомандующему, когда преследуемый японцами «Новик» на всех парах ворвался в узкое горло гавани Порт-Артура. «Одним поступком он завоевал все сердца», — пишет очевидец. День был омрачен 150 залпами самых крупных японских орудий по городу-крепости. Невезучий броненосец «Ретвизан» пострадал и на этот раз; одна из пушек крейсера «Аскольд» оказалась выведенной из строя. А батареи фортов убедились, что им трудно соревноваться с главным калибром японских линкоров. Событием дня была высадка гвардейской японской дивизии в Пхеньяне, которой никто не препятствовал. А ведь это было уже серьезно: полпути от Сеула до приграничной с Китаем реки Ялу.
Макаров постарался рационализировать ситуацию, он энергично взялся за улучшение оборонных возможностей крепости. Он соединил телефонной связью главные орудия фортов. Для экипажей кораблей началась тяжелая ежедневная учеба — прежде всего нужно было быстро входить и выходить из гавани. Результаты последовали. Прежде для входа в порт флоту требовались почти сутки, сейчас — 2 с половиной часа. Выйдя из порта всем флотом, Макаров осуществил первые (за последние полгода) учения в открытом море. При входе в гавань в море были сброшены мины. У входа в гавань стали дежурить торпедные катера; два старых судна были затоплены у входа, чтобы воспрепятствовать подходу к городу японцев и для установления наблюдательного пункта. Цитата из официальной японской истории: «Мы снова увидели флот, который можно было уважать».
Некоторые факторы препятствовали возрождению русской мощи. В середине марта 1904 г. в Порт-Артур прибыл новый командующий сухопутными войсками — генерал-лейтенант Смирнов (он получил во время русско-японской войны завидную кличку: «Семь дьяволов». В крепости был создан Совет обороны, мобилизованы 5 тыс. рабочих для укрепления фортов, особенно с флангов и с тыла. Отважный командир крейсера «Новик» фон Эссен стал капитаном линейного корабля «Севастополь»; 29-летний морской офицер Александр Колчак вступил в командование миноносцем «при главнокомандующем». Подъем ощутила и страна. Именно в эти дни действия русской стороны заставили А.П. Чехова задуматься над тем, чтобы пойти служить своей стране в качестве военного врача или военного журналиста. Увы, судьба отвела русскому гению уже немного земных дней.
А японцы ощутили некий холод в ногах. Следовало спешить. 22 марта Того снова решил использовать пушки основного калибра против города-крепости. Его приказ № 246 звучал так: «Твердо положимся на наших богов, и мы возвратимся с достойными трофеями». Но на этот раз ни один русский корабль не пострадал. Теперь раны считали с противоположной стороны. Впервые русский флот вышел навстречу японскому, нанес ему ощутимый урон и возвратился на базу. Вынужден был возвратиться в Сасебо линкор «Фудзи», и японские адмиралы признали, что «стрельба русских артиллеристов была превосходной». Того и его окружение обязаны были прийти к выводу, что русский флот все еще представляет серьезную угрозу японским стратегическим коммуникациям. Угроза японским десантам продолжала нависать над Токио.
Рассвирепевший Того решил еще раз «превратить бухту Порт-Артура в озеро» — потопить у входа в бухту несколько старых торговых судов с камнями и цементом на борту. Он призвал к себе своих капитанов и лучших специалистов. Присутствовавшие запомнили его слова: «Мужество — лучшая защита». Следует под носом у русских предпринять еще одну попытку блокирования русского флота.