行長は休戦期日を過ぎても講和交渉の明側の返答を待ち続けていたが、この間、明では李如松率いる4万余の朝鮮派遣軍を編成し、平壌に向かって進行していた。文禄2年（1593年）1月に明軍による平壌攻撃が行われると、抗しきれず漢城まで退却する。同年5月に島津忠辰が仮病を使って出陣を拒否し改易された際には身柄を預かるなど、国内でも活動した。

漢城周辺の日本軍は、進撃してきた明軍を碧蹄館の戦いで破った（このとき行長軍は漢城に駐留）。その後、戦意を喪失した明軍と兵糧不足に悩む日本軍との間に講和交渉が開始される。行長は石田三成と共に明との講和交渉に携わり、明側の講和担当者・沈惟敬らと共謀し、秀吉には明が降伏すると偽り、明には秀吉が降伏すると偽って講和を結ぼうとしたといわれる。この時、行長家臣の内藤如安（明側の史料では小西飛騨）が日本側の使者として明の都・北京に向かった。

この結果、明の使者が秀吉を日本国王に封じる旨を記した書と金印を携えて来日する事になった。冊封の内容はアルタン・ハーンのものを先例とし、順化王の王号と金印を授与するものであった（秀吉の王冊封以外にも宇喜多秀家、小西行長、増田長盛、石田三成、大谷吉継ら和平派諸将が大都督、前田利家、徳川家康、上杉景勝らが地方の都督指揮に任じられる）。これは明の臣下になることを意味するもので、秀吉が求めていた講和条件は何ら含まれないものだった。これを秀吉に報告する段階で行長は、書を読み上げる西笑承兌に内容をごまかすよう依頼したが、承兌は書の内容を正しく秀吉に伝えた。このため講和は破綻し、交渉の主導者だった行長は秀吉の強い怒りを買い死を命じられるが、承兌や前田利家、淀殿らのとりなしにより一命を救われる。

慶長2年（1597年）からの慶長の役でも再び出兵を命じられ、特に講和交渉における不忠義の埋め合わせのため武功を立てて罪を償うよう厳命されて朝鮮へ進攻する。漆川梁海戦で朝鮮水軍を殲滅し、南原の攻略戦（南原城の戦い）に参加後、全州を占領し全羅道方面を制圧した後、順天倭城に在番。翌慶長3年（1598年）9月末から10月初めにかけて行われた順天倭城の戦いでは、戦いに先立って明将・劉?から講和が持ちかけられ、行長はこれに応じて交渉に臨もうと城を出たが、これは行長を捕縛しようとする明側の謀略であった。この謀略は明側の不手際のため寸前のところで窮地を脱し城内に駆け込んで籠城することができた。続いて明・朝鮮軍による水陸からの攻撃が開始されたが、これを撃退する。その後、秀吉死去による帰国方針が伝えられ、明軍と交渉して円滑な帰国を認める旨の同意を取り付けた。しかし、朝鮮水軍の李舜臣の反対で、海上封鎖による帰国妨害が続けられたが、立花宗茂、島津義弘等の救援により無事帰国することができた。

なお、文禄の役の際の進軍、戦闘の模様は従軍僧・天荊の『西征日記』に詳しく記されている。
関ヶ原関ヶ原の戦いの小西行長陣跡（岐阜県不破郡関ケ原町）

慶長3年（1598年）8月に秀吉が死去すると、行長は12月に帰国する。その後は寺沢広高とともに徳川家康の取次役を勤めるなど、むしろ家康との距離を近づけているが、慶長5年（1600年）の家康による会津征伐に際しては上方への残留を命じられた[注釈 6]。しかし、その後に起こった関ヶ原の戦いでは、石田三成に呼応し西軍の将として参戦する。

9月15日の関ヶ原本戦では、東軍の田中吉政、筒井定次らの部隊と交戦して奮戦する。しかし小早川秀秋らの裏切りで大谷吉継隊が壊滅すると、続いて小西隊・宇喜多隊も崩れ、行長は伊吹山中に逃れた。9月19日、関ヶ原の庄屋・林蔵主に匿われた。行長は自らを捕縛して褒美をもらうように林蔵主に薦めたが、林はこれを受けず、竹中重門家臣の伊藤源左衛門・山田杢之丞両名に事情を話し、共々行長を護衛して草津の村越直吉の陣に連れて行った[注釈 7]。

10月1日に市中引き回しの後、六条河原において石田三成・安国寺恵瓊と共に斬首された。その際、行長はキリシタンであったので、浄土門の僧侶によって頭上に経文を置かれることを拒絶し、ポルトガル王妃から贈られたキリストとマリアのイコンを掲げて3度頭上に戴いた後に首を打たれたと伝えられる[10]。処刑後、首は徳川方によって三条大橋に晒された。死に臨んで告解の秘蹟を同じキリシタンであった黒田長政に依頼したが、家康の命もあって断られ、処刑当日も司祭が秘蹟を行おうとしたが、接近を許されなかった[10]。イエズス会側の史料によると、行長の遺体は教会に引き取られた後で改めて秘蹟を受けてカトリック式で葬られた[10]というが、どこに埋葬されたのかはわかっていない[11]。教皇クレメンス8世は行長の死を惜しんだと言われる[10]。行長が亡くなってから7年後の1607年、イタリアのジェノバでは行長を主人公とする音楽劇が作られている[11]。
人物豊臣行長印章（播磨国龍野藩医・中井伯元家蔵）。