2000年2月に東洋大学の軽音楽サークルに所属した山口と木内の2人で結成され、のちに近藤が加わり[10]現在のスリーピースとなる。当時はバンド名が無く、候補として「400勝投手」「くるくるパー」などがあったが、4月に高円寺のライブハウスShow Boatで「サンボマスター」の名が付き、同時に初ライブを催した。7月にインディーズアルバム『キックの鬼』を5か月かけてレコーディングする。

2001年4月にアルバム『キックの鬼』を発売する。

2003年7月にオナニーマシーンとのスプリットアルバムである『放課後の性春』でメジャーデビューし、12月に単独で1stアルバム『新しき日本語ロックの道と光』を発売する。全国ツアー中に、木内の自動車から山口と近藤が結成以来使用してきたギターとベースが盗まれ、木内のドラムセットは被害を免れた。

2004年に劇団大人計画を率いる松尾スズキが監督した映画『恋の門』の主題歌に「月に咲く花のようになるの」が採用され、劇中挿入歌として「人はそれを情熱と呼ぶ」「この世の果て」など数曲が用いられた。12月31日にCOUNTDOWN JAPAN 04/05の1万人規模ステージで年越しカウントダウンする。以後COUNTDOWN JAPANに毎年出演している。

2005年に、フジテレビ系テレビドラマ『電車男』の主題歌に抜擢された「世界はそれを愛と呼ぶんだぜ」がヒットして知名度を高める。エンディングで、終電後の秋葉原駅で撮影された本人出演の映像が用いられた[11]。2005年9月22日放送のドラマ最終回で本編に出演する。10月に公式ファンクラブ「要町ロックンロール」結成。

2007年1月から「新しき日本語ロックキャンペーン2007」と題したイベント『世界ロック選抜』を開始する。最終日の9月1日に両国国技館で、6時間以上約5,000人の観客にそれまでにリリースした全55曲を演奏した。

2010年9月に山口は、福島県出身の松田晋二（THE BACK HORN）、渡辺俊美（TOKYO No.1 SOUL SET）、箭内道彦と4人で猪苗代湖ズを結成[12]する。

2011年3月23日に初のベスト・アルバム『サンボマスター 究極ベスト』を発売[13]し、福島県が最も被害を受けた東日本大震災のチャリティーソング「I love you & I need you ふくしま」を猪苗代湖ズ名義で録音・配信（後にCDリリース）した[12]。12月にビクターエンタテインメント内のレーベル「Getting Better」へ移籍を発表[14]する。

2018年7月に『輝きだして走ってく』がTBS系金曜ドラマ『チア☆ダン』の主題歌[15]に採用される。

2019年12月に新曲『花束』が「ウコンの力」CMソング[16]に起用される。

2020年3月に結成20周年を記念し、キャリア初のトリビュートアルバム『サンボマスター究極トリビュート ラブ フロム ナカマ』を発売[17]する。3月13日に「花束」を、配信限定シングルとして発売[18]する。4月から放送されるテレビ東京系ドラマ『浦安鉄筋家族』のオープニングテーマを担当する[19]。5月6日に上記ドラマの主題歌「忘れないで 忘れないで」を配信限定で公開[20]し、5月22日から2週連続で、過去のライブ映像を配信[21]する。

2021年3月29日よりスタートしたTBS系の情報バラエティ番組「ラヴィット!」のテーマソングとして新曲『ヒューマニティ!』を書き下ろした。楽曲は2021年6月9日にリリースされた。3人はその後「ラヴィット!」の2022年8月11日放送で『ヒューマニティ!』をテレビで初披露。その後も「ラヴィット!」で楽曲を披露する機会も多く、2023年8月26日に行われた番組イベント「LOVE IT! ROCK 2023」にも出演。『ヒューマニティ!』『輝き出して走ってく』『ロックンロール イズ ノットデッド』を披露した。

2021年11月11日に山口が網膜剥離と診断されたことを公表[22]し、14日に予定されていた福岡の「Zepp Fukuoka」の公演は見合わせとなる[22]。