3月6日、上村彦之丞海軍中将が率いる装甲巡洋艦「出雲」、「八雲」、「吾妻」、「磐手」、「浅間」、防護巡洋艦「笠置」、「吉野」がウスリー湾方面からウラジオストク港に接近して薄氷の外から造船場、砲台、市街地に向けて約50分間砲撃した後引き上げた。ロシア旅順艦隊は増援を頼みとし、日本の連合艦隊との正面決戦を避けて旅順港に待機した。
連合艦隊は2月から5月にかけて、旅順港の出入り口に古い船舶を沈めて封鎖しようとしたが、失敗に終わった（旅順港閉塞作戦）。4月13日、連合艦隊の敷設した機雷が旅順艦隊の旗艦である戦艦ペトロパヴロフスクを撃沈、旅順艦隊司令長官マカロフ中将を戦死させるという戦果を上げたが（後任はヴィリゲリム・ヴィトゲフト少将）、5月15日には逆に日本海軍の戦艦「八島」と「初瀬」がロシアの機雷によって撃沈される。
一方で、ウラジオストクに配備されていたロシアのウラジオストク巡洋艦隊は、積極的に出撃して通商破壊戦を展開する。ウラジオストク艦隊は4月25日に日本軍の輸送艦金州丸を撃沈している。このとき捕虜となった日本海軍の少佐は、戦後免官となった[45]。この時は上村彦之丞中将率いる第二艦隊が再びウラジオストク港を攻撃しようとしていた時であり、以降第三艦隊に代わり第二艦隊が一部を除いて対馬海峡警備に当たった。
旅順要塞攻囲戦・黄海海戦・遼陽会戦詳細は「黄海海戦 (日露戦争)」および「遼陽会戦」を参照
黒木為楨大将率いる日本陸軍の第一軍は朝鮮半島に上陸し、4月30日から5月1日の戦闘で、安東（現・丹東）近郊の鴨緑江岸でロシア軍を破った（鴨緑江会戦）。続いて奥保鞏大将率いる第二軍が遼東半島の塩大墺に上陸し、5月26日、旅順半島の付け根にある南山のロシア軍陣地を攻略した（南山の戦い）。南山は旅順要塞のような本格的要塞ではなかったが堅固な陣地で、第二軍は死傷者4,000の損害を受けた。東京の大本営は損害の大きさに驚愕し、桁をひとつ間違えたのではないかと疑ったという。第二軍は大連占領後、第1師団を残し、遼陽を目指して北上した。6月14日、旅順援護のため南下してきたロシア軍部隊を得利寺の戦いで撃退、7月23日には大石橋の戦いで勝利した。
旅順要塞に対して陸軍は3月上旬までは監視で十分であると判断していたが、その後3月14日、北上する2個軍の後方に有力な露軍戦力を残置するのは危険と判断し、2個師団から構成される攻城軍を編成することを決定した。しかし、海軍側としては陸軍の援助なしの海軍独力による旅順の処理を望んだようで、事前調整の段階から陸軍の後援を要求しない旨をしばしば口外した大本営海軍幕僚もいたと伝えられる。4月6日に行われた陸軍の大山巌参謀総長、児玉源太郎次長と海軍軍令部次長伊集院五郎との合議議決文には「陸軍が要塞攻略をすることは海軍の要請にあらず」という1文がある[46]ように、4月に入っても海軍は独力による旅順艦隊の無力化に固執し続け、閉塞作戦失敗後は機雷による封鎖策に転換し、4月12日 - 13日に実施されたが失敗した。
ロシアバルト海艦隊（バルチック艦隊）の極東回航がほぼ確定し、追い詰められた海軍は開戦当初から拒み続けてきた陸軍の旅順参戦を認めざるを得なくなった。このような経緯により要塞攻略を主任務とする第三軍の編成は遅れ、戦闘序列は5月29日に発令となった。軍司令部は東京で編成され、司令官には日清戦争で旅順攻略に参加した経歴があった乃木希典大将が命された。
6月20日現地総司令部として満洲軍総司令部が設置され、大本営から指揮権が移された。6月8日に大連に到着した第三軍司令部は、すでに上陸していた第一、第十一師団（ともに第二軍より抽出された）を麾下に加えて前進を開始し、6月26日までに旅順外延部まで進出した。7月12日には伊東祐亨海軍軍令部長から山縣有朋参謀総長に、旅順艦隊を旅順港より追い出すか壊滅させるよう正式に要請が入る。8月7日より海軍陸戦重砲隊が旅順港内の艦船に向けて砲撃を開始し、旅順艦隊に損傷を与えた。
これを受けて、旅順艦隊は8月10日に旅順からウラジオストクに向けて出撃、待ち構えていた連合艦隊との間で海戦が起こった。この海戦で旅順艦隊は旗艦と司令長官、巡洋艦と駆逐艦の過半を事実上失い、残った艦艇も大きな損害を受けて旅順へ引き返した（黄海海戦・コルサコフ海戦）。ロシアのウラジオストク艦隊は、6月15日に輸送船常陸丸を撃沈する（常陸丸事件）など活発な通商破壊戦を続けていたが、旅順艦隊に呼応して出撃すると8月14日に日本海軍第二艦隊に蔚山沖で捕捉された。第二艦隊はウラジオストク艦隊に大損害を与え、その後の活動を阻止した（蔚山沖海戦）。旅順艦隊は出撃をあきらめ作戦能力を失っていたが、日本側ではそれが確認できず第三軍は要塞に対し第一回総攻撃を8月19日に開始した。しかし、ロシアの近代的要塞の前に死傷者1万5,000という大損害を受け失敗に終わる。
8月末、日本の第一軍、第二軍および野津道貫大将率いる第四軍は、満洲の戦略拠点遼陽へ迫った。8月24日 - 9月4日の遼陽会戦では、第二軍が南側から正面攻撃をかけ、第一軍が東側の山地を迂回し背後へ進撃した。