司馬炎はこうした孫晧の態度を見て、南征のための将軍の選抜と軍隊出動の準備を行った。268年、孫晧は北伐と交州奪還の両面作戦に出たが、晋はいずれも撃退した。269年、司馬炎は羊?を都督荊州諸軍事に任命して襄陽に駐屯させ、衛?を都督青州諸軍事に任命して臨?に駐屯させ、叔父の司馬?を都督揚州諸軍事に任命して下?に駐屯させた。羊?は兵を訓練し食糧を蓄え、さらに呉の民心をつかむことにも成功した。しかし270年、涼州で禿髪樹機能らによる非漢民族の大規模な反乱が起こり、しばらく対処に追われることになる。
271年、晋の支配下にあった交州は、虞汜・薛?・陶?らによって呉に再制圧された。272年、呉の西陵督である歩闡は孫晧に武昌への召還を命じられた。歩闡は危害を加えられることを恐れ、晋に降伏した。しかし歩闡は呉の陸抗（陸遜の次男）によって攻め滅ぼされ、晋は歩闡救援に失敗した（西陵の戦い）。同年王濬を益州刺史に任命し、大型船の建造と水軍訓練の密命を下し、呉攻略の準備を図った。王濬が造船した大船は、全長120歩・収容人数2000人、櫓や四面に大門を配し、馬が駆けることも可能で、さながら河の上の城のようなものであったという。こうした大船を大量に造り、晋は強大な水軍を作り上げた。しかし賈充を筆頭にした慎重論も根強く、開戦は先送りされた。司馬駿が禿髪の勢力を大きく弱体化させると、278年、羊?は呉攻略を遺言して没した。杜預が後継に就任し、来るべき戦の準備を進めていった。また279年には馬隆が禿髪樹機能を討ち取り、非漢民族の反乱も一応収束させた。
一方、呉の皇帝孫晧は、晋の戦備に対しまったく警戒しておらず、長江の天険を頼りにするばかりで防備を増強せず、何回も晋に軍を派遣した。陸抗は晋が呉を滅ぼす準備をしていると察知し、建平郡・西陵郡に兵力の増強を要求した。また建平太守の吾彦も、長江に木くずが流れてきていることから、王濬が蜀で船を建造していると推測し、孫晧に対し「晋は必ず呉を攻める心づもりです。建平の兵を増強すべきです。建平が陥落しなければ、（晋軍は）長江を渡ることはできません（晋必有攻呉之計、宜増建平兵。建平不下、終不敢渡）」と述べたものの、孫晧はこれらの警告を無視した。さらに274年、陸抗が憂慮の中に死去すると、呉の中で晋に対抗できる名将はいなくなった。
攻略開始西晋軍による呉攻略の図
279年、杜預は呉の西陵督の張政と交戦し、これに勝利した。張政は敗戦を恥じて報告しなかったので、杜預はわざと孫晧のもとに捕虜を帰した。果たして張政は召還され、孫晧は守将を武昌監の劉憲に差し替え、征南将軍の成?・西陵監の鄭広を増援として派遣した。杜預は張政を追い落とす計略が成功したのを見て、呉はすっかり傾いたと判断した。
同年、王濬と杜預は司馬炎に、呉討伐の時期が来たと上申した。杜預からの上書が届いた時、司馬炎は張華と囲碁を打っていたが、張華もまた杜預の意見に全面的に賛同した。これにより司馬炎は遂に征伐を決心した。この時点では鮮卑の禿髪樹機能はまだ健在だったが、折しも呉では広州で郭馬が反乱を起こし、反乱軍は広州・交州に拡大しており、呉は即座に鎮圧することができなかった。
12月、司馬炎は賈充を大都督に、楊済を副統領に任命し、各軍は攻勢を開始した。また張華には兵糧の運送と軍全体の進攻を統括させた。賈充はなおも慎重論を主張したが、司馬炎は「そなたが行かぬなら、私が自ら行くまでだ」と述べ、賈充に大都督を拝命させた。羊?が生存中に策定した作戦の計画に従い、20万余の軍勢が、6方向より呉に侵攻を開始し、迅速に各地の呉軍の連携を断ち、各個撃破していった。司馬?は下?から?中へ向かい、王渾は寿春（現在の安徽省六安市寿県）に出撃した。王戎は項城より武昌（現在の湖北省鄂州市鄂城区）に進攻し、胡奮は沙羡（現在の湖北省武漢市江夏区）から夏口（現在の湖北省武漢市武昌区）に進撃した。杜預は襄陽から江陵（現在の湖北省荊州市荊州区）を目指し、王濬と唐彬は水軍を指揮して、蜀から長江を下っていった。晋軍の西部方面からの軍が主に攻撃を担い、東部方面からの軍は呉軍の主力を牽制する責任を担った。各軍は協調行動をとり、司馬炎は、建平にいる王濬の軍に杜預の監督を受けるよう命令し、建業（現在の南京市）攻略は王渾が指揮を執る事となった。なお、馬隆が禿髪樹機能を討ったのもこのころである。
279年12月には王濬・唐彬が指揮を執る7万の軍勢が長江沿岸を攻略し、280年正月には王渾軍は既に長江を渡り、建業攻略の準備を始めた。
2月、王濬・唐彬が指揮を執る軍が、丹陽を攻撃し、西陵峡に進出した。呉軍は長江に鉄鎖を設置し、また、鉄の錐を長江に放ち、晋軍の前進を食い止めようとしたが敵わなかった。王濬は予め、大筏数十個を作り、筏の上に草で作った人形を配置し、筏を先行させ、鉄の錐を取り除かせ、火を用い鉄鎖を溶かした。晋軍は障害を順調に取り除き、西陵・夷道・楽郷・江陵へと進撃した。さらに胡奮も公安を攻め、ほとんどの戦は晋軍の勝利に帰した。唯一、建平の吾彦はよく守ったため、晋軍は早期の攻略は不可能とみて、抑えの兵を残して素通りしたが、大勢に影響はなかった。
一方、孫晧は丞相張悌に対し沈瑩・孫震等を率い3万の軍勢で晋軍の長江渡河を迎撃するよう命令した。張悌らは王渾軍を目標にしたが、結果は王渾配下の周浚
によって、晋軍の大勝に終わった。これで張悌・沈瑩・孫震といった呉軍の将軍や兵士5,800人が惨殺されたため、呉は朝廷内から民衆まで大いに震え上がった。王渾軍は建業に接近し、配下の部将はすぐに建業攻略を王渾に建議した。しかし、王渾は司馬炎の長江以北を守ることという命令に従い、配下武将の建議を拒否、長江以北に軍隊を駐留させ、王濬軍を待つこととした。また司馬?軍は長江付近に至り、建業を脅迫し始めた。司馬炎は王濬を都督益梁二州諸軍事に任命し、王濬と唐彬は継続して東方へ軍隊を進め、巴丘を攻略し、また胡奮と王戎には共に、夏口・武昌から長江を下り建業を攻撃するよう命令した。また、別動隊として杜預は南下し、零陵・桂陽・衡陽を占領した。王濬はこのとき、命令に従い夏口を攻略し、その後、王戎とともに武昌を奪取したため、晋軍の主力は長江の上流地域を完全に制圧した。
3月、王濬軍は三山に達した。孫晧は張象に軍を率いさせ抵抗を試みたが、呉の将兵に既に戦意はなく、旗を振り晋軍に投降した。このため孫晧は、さらに陶濬に2万の軍を率いさせ抵抗しようとしたが、その兵たちも出撃前に殆どが逃亡した。ここに至り、呉には守備する将兵がいなくなってしまい、各方面から進撃した晋軍は建業に到達した。孫晧は薛瑩・胡沖の計略により、投降する旨の書を持った使者を王濬・司馬?・王渾に派遣し、離間策を試みたが徒労に終わった。3月15日、孫晧は片肌を脱いで後ろ手に縛らせた格好（肉袒面縛）[4]で投降、王濬は捷報を上表した。
