1912年1月1日、南京において中華民国の建国が宣言され、孫文が臨時大総統の地位に就いた。2月12日には宣統帝が退位し、清朝が崩壊した。同時に、孫文は臨時大総統の地位を北洋軍閥の袁世凱に譲るなど、政局は大きく転換した。この時期の?介石は目立った行動を取っていないが、同年3月から第5団の職を張群に任せると12月まで日本に赴き、東京の代々木山谷で発行所「軍声社」を設置、中国同盟会の会員や在日華僑向けの軍事雑誌「軍声」を発行した[17]。また、?介石自らも記事を寄稿しているが、その中で「軍政統一問題」を取り上げていた。?介石は、軍事と政治を統一するにはそれにふさわしい指導者が必要で、その指導者を持つことができるか否かが各民族に課せられた課題であると説いた[18]。
第二革命の失敗と日本への亡命

中華民国初の国会選挙を控えた1912年8月25日、孫文率いる中国同盟会を中心に各政治結社が合流して国民党が結成された。翌年3月、国民党は国会選挙に圧勝したが、独裁を志向する大総統・袁世凱は、3月20日、孫文に代わって国民党の実権を握り、議院内閣制を志向していた宋教仁を暗殺した。宋の暗殺により国民党での実権を掌握した孫文は、独裁を強める袁世凱に対抗して武装蜂起を試み、「第二革命」を起こした[19]。中華民国の閣僚の地位にあった陳其美も上海に戻った。このとき?介石はすでに日本から帰国し奉化県渓口鎮に戻っていたが、5月には上海に赴き、陳其美の下で国民党員となっていた。「第二革命」が勃発すると、陳は上海に在って討袁軍総司令と称し、?介石率いる第五団に命じて蜂起を企てたが、上海市内は政府軍に押さえられており、?が説得に当たったものの、第五団の大勢が政府軍についたため、蜂起は失敗した。陳は地下に潜伏したが、?介石は日本に亡命した。そして、7月に勃発した「第二革命」自体も8月には失敗に終わり、孫文も日本へ亡命した。

孫文は日本を革命の根拠地とし、革命達成のための教育機関を設置した。このうち、日本人の退役将校の支援を受けた軍事専門家の養成機関「浩然廬」の教官に?介石が選ばれた。しかし、1913年12月1日に開校した浩然廬であったが、翌年6月、爆弾製造の授業中に爆破事故を起こしたために、日本の官憲によって解散処分となった。

1914年7月8日、孫文は議会政党であった国民党を解体し、東京において中華革命党を結成、その総理（党首）に就任した。この党は議会制を否定する「革命党」であるとともに、孫文に絶対的忠誠を尽くす集団としての性格を帯びていた[20]。?介石の師である陳其美は党総務部長となって党の全ての実務を取り仕切り、孫文の右腕と目されるようになった。そして?は陳とともに入党して孫文に絶対の忠誠を誓った。まもなく、?介石は孫文に命じられて満州に向かい、現地の革命派軍人と交渉し、反袁世凱闘争と南方への軍事的進出を企てたが、これは情勢が許さず、不調に終わった。

7月28日に第一次世界大戦が起きると、?介石は中国から孫文に書簡を送り、大戦によって日本が東アジアで台頭し、それが結局袁世凱政権打倒につながるとの考えを示した[21]。そして、大戦によって東三省のロシア軍がヨーロッパ戦線に出動することを見越して、東三省での革命工作に乗り出そうとしたがこれも不調に終わり、結局日本へ戻った。9月からは、孫文の命を受けて革命党員に対する宣伝活動に携わるようになった。孫文は革命党員を中国に送り出し革命工作に従事させていたが、?介石は彼らに具体的な指令を発する職務を担ったのである。
帰国と陳其美の死

孫文率いる中華革命党は、秘密裏に中国国内で軍事組織を編成していった。革命軍は四つの軍で編成され、陳其美が東南軍司令官に、居正が東北軍司令官に、胡漢民が西南軍司令官に、于右任が西北軍司令官にそれぞれ任命された。孫文は1914年10月、東京で袁世凱政府打倒の宣言を発した。これに呼応した陳其美は同月、上海での軍事活動に率先して役割を果たすように?介石へ連絡してきた。?は直ちに上海へ赴き、陳とともに反袁活動に従事した。11月10日には「第二革命」のときに反政府活動を弾圧した上海鎮守使の鄭汝成の暗殺に成功。しかし、翌年12月の挙兵には失敗して、フランス租界での潜伏を余儀なくされた。

?介石は上海で知り合った二番目の夫人である姚治誠とフランス租界で潜伏生活を送った。?は酒もたばこも嗜まないストイックな人物とされるが[9]、この時期の?は地下活動にも似た厳しさから酒色に溺れることもあったという[22]。母の王采玉、妻の毛福梅、長男の?経国は渓口鎮の実家におり、?経国は1916年に地元の武嶺学校に進学していたが、毛福梅は仏門に興味を持つようになっていった。また、この時期に?介石は、自身と行動をともにしていた軍人の戴季陶と日本人女性との間に生まれた男子を引き取り、?緯国と名づけ、姚治誠のもとで養育している。

1916年5月18日、陳其美はフランス租界の山田純三郎邸において、北洋軍閥の張宗昌が放った刺客によって暗殺された。?介石はすぐに山田邸に駆けつけ、遺体をなでながら、体を震わせて泣いた。そして、山田邸に掲げられていた陳其美の筆による「丈夫不怕死 怕在事不成（丈夫は死をおそれず、事の成らざるをおそる）」の言葉を何度も口ずさんだという[22]。葬儀では、陳其美の遺志を継ぐという趣旨の追悼文を読み上げた。陳は生前、孫文に対して「?介石こそが自分の後継者である」と書簡を送っていた。保阪正康は陳の死によって孫文の?介石に対する見方が変わっていったとする[22]。

陳其美が暗殺された1916年から、孫文に呼び出される1918年までの?介石の動向は、公式記録上では詳細ではない。しかし、この頃は上海にいて、陳其美が残したルートから青幇と交流を持ち、また証券取引所に出入りするなど、革命資金の調達に奔走していたとされる[23]。
雌伏のとき

陳其美の死後まもない1916年6月6日、袁世凱が病没。北京政府では北洋軍閥内部の対立が発生し、各地で軍閥が割拠した。北京政府の実権を掌握したのは安徽派軍閥で国務総理（首相）に就任した段祺瑞であったが、段は中華民国臨時約法を破棄し、旧国会の回復に反対した。孫文は雲南・広西軍閥と提携し、段に反対する旧国会議員とともに広州に入り、1917年9月、広東軍政府を樹立して大元帥に就任した[24]。かくして北京政府と広東軍政府の南北対立、いわゆる護法戦争が始まった。しかし、孫文は独自の軍事的基盤が脆弱で、広東軍政府は雲南・広西軍閥の唐継堯や陸栄廷らによって左右された。ことに軍政府の軍事総代表となった陸栄廷は地盤の広西に孫文の影響力が拡大するのを恐れ、孫文の追放を図るようになった[25]。孫文は彼ら軍閥への対抗手段として、?介石を自分の膝下に招いたのである。

1918年3月2日、孫文からの電報を受け取った?介石は広東へと向かった。孫文は?を広東軍総参謀部作戦科主任に任命した。?は広東軍第一軍総司令の陳炯明と行動を共にし、孫文の軍事力を支えることとなった。その後、広東軍の一部部隊を率いて出陣し、北京政府軍と交戦した。5月、孫文は唐継堯や陸栄廷との対立に敗れ、上海に引退することになったが[24]、上海への途上で孫文は?と面会した。このとき?は交戦中であったが、?が部下と共に前線で戦い、率先して野砲を撃ち、照準を合わせたところへ的確に命中させていくのを見て、孫文は?介石の軍事的才能を評価した[26]。?介石は孫文が失脚したことを受けて7月に一度職を辞したが、陳炯明の度重なる招請によって、9月には復職した。参謀部勤務は1919年7月まで続いた。この間1918年9月から11月までは前線で北京政府軍との戦いを直接指揮したが、?介石の指揮や統率は広東軍にも北京政府軍にも注目された[26]。ただし、「有能な参謀。作戦立案に優れ、兵を率いて先頭で戦う軍人」としての評価を得たものの、それほど全国に名を知られたわけでなかった[27]。なお、1919年10月10日に中華革命党は中国国民党に改組しており、?介石もその党員になっている。

?介石は陳炯明の下で働き、将兵への教育を施した。しかし、孫文の思想を兵に語ろうとする?とそれを許さない陳との間で齟齬が生まれ、?は陳に不信感を抱くようになった。結局、?は陳の下を去り、上海に戻った。そして同じく上海にいた孫文の下に出入りをする一方、証券取引所で資金の調達に勤しむ生活へと戻ったのである。

1920年、上海に在った孫文は陳炯明に命じて権力奪還を図った。9月、陳炯明率いる広東軍は広州へ進攻した。しかし、雲南派、広西派の軍隊に苦戦し、予定よりも広州制圧が遅れた。そこで?介石が陳炯明の下に派遣された。?介石はすぐさま作戦を練り上げ、自ら陣頭指揮に当たった。10月26日、広東軍は広州を制圧。孫文は11月に広州へ帰還し、第二次広東軍政府を樹立して再び大元帥に就任した[28]。?介石はしばらく陳炯明の下にいたが、陳が軍事戦略を独断で決めるようになり、さらには広東軍政府の他の部隊を軍事的に牽制するようになると、陳への不信感が増大し、ついには上海に去って孫文に陳に対する不信感を訴えると共に、実家の奉化県渓口鎮に戻った。この時期、胡漢民に書き送った手紙には、広東軍政府の政争に嫌気が差し、人類社会のためという大きな目標に向かって進みたいとの焦りが綴られている[29]。

再び広東軍政府大元帥の地位に就いた孫文は北伐を目指すようになった。孫文は?介石に広東に来るように要請したが、?介石は断った。1921年1月、陳炯明は、孫文の意向に従い、全国統一を目指して進出していくので?介石に中央軍の司令官になってもらいたいという趣旨の手紙を?に送った。これを受け取った?は広東に赴き、孫文と面会して全国統一の方針を確認した。そして陳炯明らと作戦計画を討議したが、結局、陳には自己の基盤を固める意思しかないこと、他の幕僚が陳への対抗意識しかもっていないことがわかると、?介石は失望して再び渓口鎮に戻った。また、?介石の理解者である胡漢民も広東を去った。?介石は革命への情熱が先行するあまり、陳炯明を信頼するなど現実に対して正確な理解を持たない孫文に対して不満を持つようになった[30]。3月には対日外交に頼る孫文の政策を批判し、国内の団結を勧める手紙を送ったが、孫文は?介石の諫言を受け入れなかった。

1921年5月、広東軍政府は改組されて「中華民国政府」と称し、孫文は非常大総統に就任した。このとき孫文は非常国会で北伐案が認められたことに興奮し、これを電報で上海にいた胡漢民や?介石に伝えた。胡漢民は上海から広東に向かったが、?介石は動かなかった。

6月14日、敬愛する母・王采玉が病没。苦労して自分を育ててくれた母に報いるために、?介石は渓口鎮での葬儀を盛大に行い、母を記念して生地に武嶺小学校を建設した。