4月21日、薩軍は矢部浜町の軍議で、村田新八・池上が大隊指揮長を辞め、本営附きとなって軍議に参画すること、全軍を中隊編制にすること、三州（薩摩国・大隅国・日向国）盤踞策をとること、人吉をその根拠地とすることなどを決めた。この時に決められた諸隊編成及び指揮長は以下の通りである。
奇兵隊 ─ 指揮長野村忍介
振武隊 ─ 指揮長中島健彦
行進隊 ─ 指揮長相良長良
雷撃隊 ─ 指揮長辺見十郎太
干城隊 ─ 指揮長阿多壮五郎
常山隊 ─ 指揮長平野正介
正義隊 ─ 指揮長河野主一郎
鵬翼隊 ─ 指揮長淵辺群平
勇義隊 ─ 指揮長中山盛高
この後即日、薩軍は全軍を二手に分けて椎原越えで人吉盆地へ退却した。
4月27日、人吉盆地に入った薩軍は本営を人吉に置いた。4月28日に江代に着いた桐野はここに出張本営を置き軍議を開いた。江代軍議で決められたのは、人吉に病院や弾薬製作所を設けること、各方面に諸隊を配置することなどで、逐次実行に移された。この時、桐野が人吉を中心に南北に両翼を張る形で薩軍を以下の通りに配置した。
薩軍諸隊配置（『薩南血涙史』に依る）
豊後口方面 ─ 指揮長野村忍介
鹿児島方面 ─ 指揮長中島健彦
同上 ─ 指揮長相良長良
大口方面 ─ 指揮長辺見十郎太
江代口方面 ─ 指揮長阿多壮五郎
中村・加久藤・綾方面 ─ 指揮長平野正介
神瀬・小林方面 ─ 指揮長河野主一郎
佐敷方面 ─ 指揮長淵辺群平
川内方面 ─ 指揮長中山盛高
高原口方面 ─ 指揮長堀与八郎
対する官軍の配置は以下の通りである。
官軍旅団配置
健軍・木山方面 ─ 第一旅団（野津鎮雄少将）
砂取・川尻方面 ─ 第二旅団（三好重臣少将）
高森方面第三旅団 ─ （三浦梧楼少将）
鹿児島方面 ─ 第四旅団（曾我祐準少将）
同上 ─ 別働第一旅団（高島鞆之助少将）
南種山・五箇庄方面 ─ 別働第二旅団（山田顕義少将）
佐敷・水俣・大口方面 ─ 別働第三旅団（川路利良少将）
比奈久・球磨川口方面 ─ 別働第四旅団（大山巌少将）
矢部浜町方面 ─ 熊本鎮台（谷干城少将）
5月8日、辺見・河野主一郎・平野・淵辺はそれぞれ雷撃隊・破竹隊・常山隊・鵬翼隊の4隊を率いて神瀬箙瀬方面に向かった。官軍との戦闘は5月9日に始まったが、5月15日には、破竹隊の赤塚源太郎以下1箇中隊が官軍に下るという事件が起きた。これより神瀬周辺での両軍の攻防は一進一退しながら6月頃まで続いた。
別働第二旅団（山田少将）は5月19日、人吉に通じる諸道の1つ万江越道の要衝水無・大河内の薩軍を攻撃した。これを迎え撃った薩軍の常山隊七番中隊は一旦鹿沢村に退き、5月21日に水無・大河内の官軍に反撃したが、勝敗を決することができず、再び鹿沢村に引き揚げた。5月28日、今度は官軍が鹿沢村の常山隊七番中隊を攻撃した。常山隊は必死に防戦したが、弾薬がつきたために内山田に退き、翌日29日に大村に築塁し、守備を固めた。
5月5日、田ノ浦に官軍が上陸。材木村は田ノ浦から人吉に通じる要路であったため鵬翼隊四・六番中隊は材木村に見張りを置き、大野口を守備した。5月6日、官軍が材木村の鵬翼隊四番中隊を攻めたので、薩軍はこれを迎え撃ち、一旦は佐敷に退却させることに成功した。しかし5月9日、官軍は再び材木村の鵬翼隊六番中隊を攻めた。激戦がおこなわれたが、薩軍は敗れてしまい、長園村に退いた。このとき淵辺が本営より干城隊八番中隊左半隊を応援に寄越したので、官軍を挟み撃ち攻撃で翻弄し、塁を取り戻した。また、5月9日、一ノ瀬の鵬翼隊三番中隊は官軍の襲来に苦戦しつつも材木村まで到達し、材木村の薩軍と共に塁の奪還に成功した。さらに5月9日、鵬翼隊二・五番中隊、干城隊四番中隊、その他諸隊は佐敷方面湯ノ浦の官軍を攻めたが失敗し大野に退却した。5月16日、官軍が一ノ瀬の鵬翼隊五番中隊を攻撃した。薩軍は苦戦したが、大野からきた干城隊三番中隊の参戦により官軍を退けることができた。
5月20日、別働第三旅団が久木野に進入した。大野本営にいた淵辺は干城隊番三・四・八番中隊に命令して久木野の官軍を襲撃させ、退却させることに成功した。この戦いは薩軍の圧勝となり、銃器や弾薬、その他の物品を多く得た。5月22日、淵辺は佐敷口の湯ノ浦に進撃することを決め、干城隊三・四番中隊、鵬翼隊六番中隊、その他2隊に進軍を命じた。またこの日、大野の本営にいた辺見は久木野に進撃することを決意し、淵辺に応援を要求した。淵辺群平は干城隊八番中隊を久木野に寄越した。そこで、たまたま大野口から湯ノ浦に進撃していた干城隊三・四番中隊と合流し、官軍を退けた。5月23日、別働第三旅団が倉谷・高平・大野方面の薩軍を次々と破り、大野に進入してきた。鵬翼隊五番中隊左小隊、干城隊二番中隊は防戦したが、敗れて石河内に退却した。久木野にいた干城隊八番中隊も参戦しようとしたが、大野の塁は官軍に奪われてしまった。淵辺群平は、塁を奪還するため夜襲を命じたが、官軍の反撃で退却した。この日、一ノ瀬の鵬翼隊三番中隊の塁にも官軍が襲来した。三番中隊は大野口の敗報を聞き、左小隊を鎌瀬、右小隊を植柘に分けて退いた。その後神ノ瀬方面も敗れたという報告を聞き、舞床に退いた。鵬翼隊二番中隊は岩棚より程角道三方堺に退却した。
5月28日明け方、官軍が舞床の鵬翼隊三番中隊を襲った。この日は防戦に成功したが、官軍は5月29日に再び鵬翼隊三番中隊右半隊を攻撃。薩軍は塁を捨てて後退したが、鵬翼隊三番中隊左小隊の活躍により塁を取り返し、銃器・弾薬を得た。この夜、三方堺の鵬翼隊二番中隊も襲われ、弾薬不足のため背進した。このため舞床の薩軍は鵯越に退いた。札松方面の鵬翼隊二番中隊が人吉に退却したため、振武隊二番中隊・干城隊八番中隊は程角越の応援のために進撃し、振武隊二番中隊は程角本道の守備を開始した。鵬翼隊二番中隊も同じく程角越に進撃した。5月30日の夜明け頃、官軍が程角左翼の塁を攻撃し、薩軍は敗北した。官軍は勢いに乗じて干城隊八番中隊・振武隊十六番小隊を攻めた。薩軍各隊は大いに苦戦し、次々と兵を原田村に引き揚げた。激しい攻防が続き、勝敗は決まらず夜になった。翌日薩軍各隊は原田村に兵を配置した。
6月1日早朝、諸道の官軍が人吉に向かって進撃した。諸方面の薩軍はすべて敗れ、人吉や大畑に退却した。これを知った中神村の鵬翼隊六番中隊・雷撃隊五番中隊・破竹隊一番中隊、その他2隊、鵯越の鵬翼三番中隊、戸ノ原の鵬翼隊五番中隊等の諸隊は大畑に退却した。原田村の干城隊八番中隊・振武隊二番中隊・鵬翼隊二番中隊・振武隊十六番小隊、郷之原の破竹隊四番中隊、深上の雷撃隊一番中隊、馬場村の雷撃隊二番中隊等は人吉の危機を聞き、戦いながら人吉に向かった。
4月30日、常山隊三番中隊は中村、遊撃隊六番小隊春田吉次は頭治などそれぞれ要地を守備したが、5月3日から7日までの宮藤の戦い、5月10日から14日までの平瀬の戦いで、官軍は中村中佐の活躍によりこれらを敗走させることに成功した。中村中佐は5月21日、横野方面の薩軍を襲撃し、岩野村に敗走させた。一方、尾八重を守っていた干城隊二番中隊は岩野村を守備し、5月22日、前面の官軍を襲撃し敗走させた。さらに追撃しようとしたが弾薬が不足していたこともあり、米良の西八重に退却した。
別働第二旅団は7つの街道から球磨盆地に攻め入る作戦をたて、5月1日から9日までこの作戦を遂行した。まず前衛隊は球磨川北岸沿いを通る球磨川道、南岸沿いを通る佐敷道から攻めたが、街道は大部隊が通るには困難な地形であったために官軍は各地で薩軍に敗退した。しかし、人員・物資の不足により、薩軍は当初の勢いがなくなった。そこを突いて5月12日、別働第二旅団は球磨盆地の北部にある五家荘道等の5つの街道から南下し始めた。薩軍の球磨川北部の守りが薄かったので、別働第二旅団は12日から25日までの13日間に五木荘道の頭治・竹の原、球磨川道の神瀬、種山道、仰烏帽子岳など多くの要地を陥落させた。
この頃桐野は宮崎から鹿児島方面および豊後等の軍を統監していたが、ここを根拠地とするために宮崎支庁を占領し、5月28日に軍務所と改称した。別働第二旅団の侵攻で危険が目前に迫った人吉では、村田新八らが相談して安全をはかるために、5月29日、池上に随行させて狙撃隊等2,000名の護衛で西郷を宮崎の軍務所へ移動させた。5月31日に西郷が軍務所に着くと、ここが新たな薩軍の本営となり、軍票（西郷札）などが作られ、財政の建て直しがはかられた。
山田少将が指揮する別働第二旅団の主力部隊は5月30日、五家荘道・照岳道などから人吉に向かって進撃した。これと戦った薩軍は各地で敗退し、五家荘道の要地である江代も陥落した。また神瀬口の河野主一郎、大野口の淵辺はともに人吉にいたが、薩軍が敗績し、人吉が危機に陥ったことを聞き、球摩川に架かる鳳凰橋に向かった。