再び広東軍政府大元帥の地位に就いた孫文は北伐を目指すようになった。孫文は?介石に広東に来るように要請したが、?介石は断った。1921年1月、陳炯明は、孫文の意向に従い、全国統一を目指して進出していくので?介石に中央軍の司令官になってもらいたいという趣旨の手紙を?に送った。これを受け取った?は広東に赴き、孫文と面会して全国統一の方針を確認した。そして陳炯明らと作戦計画を討議したが、結局、陳には自己の基盤を固める意思しかないこと、他の幕僚が陳への対抗意識しかもっていないことがわかると、?介石は失望して再び渓口鎮に戻った。また、?介石の理解者である胡漢民も広東を去った。?介石は革命への情熱が先行するあまり、陳炯明を信頼するなど現実に対して正確な理解を持たない孫文に対して不満を持つようになった[30]。3月には対日外交に頼る孫文の政策を批判し、国内の団結を勧める手紙を送ったが、孫文は?介石の諫言を受け入れなかった。

1921年5月、広東軍政府は改組されて「中華民国政府」と称し、孫文は非常大総統に就任した。このとき孫文は非常国会で北伐案が認められたことに興奮し、これを電報で上海にいた胡漢民や?介石に伝えた。胡漢民は上海から広東に向かったが、?介石は動かなかった。

6月14日、敬愛する母・王采玉が病没。苦労して自分を育ててくれた母に報いるために、?介石は渓口鎮での葬儀を盛大に行い、母を記念して生地に武嶺小学校を建設した。?介石は母を追悼する一文を遺しており、それには「哀れは母を喪うよりも哀れなるはない」とある[31]。孫文からは王采玉を弔うとともに、すぐに広東に戻ってきてほしいとの書簡が送られてきた。また、胡漢民や汪兆銘など孫文閥の広東政府の要人からも手紙や電報で催促された。仕方なく?介石は広東に出向いてみたものの、広東政府内部の対立や陸軍部長兼内務部長に就任していた陳炯明の態度に怒りを覚え、ごく短期間で上海や渓口鎮に戻り、母の供養と称してそこから動くことは少なくなっていった。11月23日には母の本葬が執り行われ、その墓碑銘には孫文が揮毫し、胡漢民や汪兆銘も碑文を記した。

母の本葬から間もなく?介石は三番目の夫人を迎える。上海の実業家の娘、陳潔如である。上海で?介石と暮らしていた姚治誠とは慰謝料を払って離縁となった[32]。12月5日に結婚式を挙げた?介石は、その後は孫文に忠実に従い、その北伐計画に積極的に携わるようになる。
孫文と共に

1922年に入ると孫文はますます北伐断行にはやるようになった。前年11月には桂林に大本営が設置されており、?介石も大本営に入るように要請を受けていた。1月18日、?介石は結婚まもない陳潔如を連れ、孫文と共に桂林に入った。すぐさま大本営で作戦会議が開かれ、?は湖北攻撃を主張した。これに対して胡漢民や許崇智、李烈鈞などは江西を攻めるように主張し、論戦となった。?は強引に自説を押し通そうとした。結果、まず湖北を攻め、次に江西に進撃する妥協策が成立した。しかし、孫文が2月3日に出した北伐軍動員令では、李烈鈞が江西を、許崇智が湖南を攻めることになった。

だが、この北伐は実施されることなく終わった。陸軍部長の陳炯明が兵站や補給を妨害したためである。陳炯明は聯省自治主義者であった。すなわち陳は孫文と異なり、省自治を前提とした、各省の横の連合による地域統合型の国家建設を目指していたのである[33]。陳は武力統一を目指す孫文と激しく対立した。

?介石はあらためて大本営で開かれた作戦会議で、北伐軍を広東に戻し、体勢を立て直してから江西に攻め入るべきだと主張した。この提案は受け入れられ、さらに?介石は北伐軍と陳炯明が衝突しないように調整に当たることとなった。4月12日に?介石が軍を率いて広東に入ると、陳炯明は孫文に辞表を提出し、配下の部隊を率いて逃亡した。孫文は陳炯明を軍職からは解任したものの内務部長の職には留めた。この措置に反発した?介石は、またしても孫文に辞表を出し、そして陳炯明に「孫文の意向に従い、北伐軍を指揮せよ」との警告を発して上海へ戻った[34]。

孫文はその後も北伐を準備したが、それに反対する陳炯明との対立も先鋭化していった。そこで孫文は、上海にいた?介石に来援を求める電報を送っている。しかし北伐軍が広東を出発すると、陳炯明は6月16日にクーデターを起こし、広州の総統府を砲撃した。孫文は側近たちと共に軍艦「楚豫」に逃亡、六十数日にわたって陸上の陳炯明軍と交戦した。?介石は6月29日、孫文救援のために楚豫へ駆けつけ、48日間共に戦った。ここで?は孫文の厚い信頼を得ることに成功した[35]。だが戦況は不利で、?介石は孫文に香港への逃亡を進言、孫文と?はイギリスの軍艦に移って香港に向かい、そこから上海へ移った。

?介石は再び上海で無為の生活を送ることになった。ここでの生活では陳炯明の裏切りを非難する手紙を孫文の側近に送るか、証券取引所に出入りして投機に熱中するかであった[36]。こういった生活は1923年3月まで続いた。

広東政府を乗っ取った陳炯明は、北伐軍を率いていた許崇智など孫文傘下の軍に追い詰められていった。孫文は?介石を東路討賊軍参謀長に任命し、福建に派遣して軍を監理させようとした。しかし?は福建の司令部で許崇智と衝突してしまい、またもや上海へ帰った。このとき孫文は?介石の必ず他人と衝突する性格を案じる手紙を送り、?介石に役割を果たすように説いた[37]。そこで?は再び福建に戻った。しかし、すでに雲南・広西の討賊軍が陳炯明を追い詰めいており、?が大きな役割を果たすことは少なかった。結局、陳炯明は敗れて恵州に退き、12月15日に討賊軍が広州に入城。1923年3月、孫文が陸海軍大元帥に就任して第三次広東軍政府が成立した。新政府において、?介石は大元帥府大本営参謀長に任命された。