1992年11月、RCサクセションの「トランジスタ・ラジオ」のカバーシングルを、キティレコードからリリース[注 5]。1994年3月からフジテレビ系深夜番組『寺内ヘンドリックス』に準レギュラーとして出演。この時期、山崎自身のアルバム・レコーディングも開始された[8]が、キティレコードの経営悪化に伴い、山崎のデビュー話が浮く形になる。山崎を見出した音楽プロデューサーはキティレコードを退社。その音楽プロデューサーが別のレコード会社に山崎を売り込みに行き、山崎はひたすら創作に没頭するという「不遇の時代」を過ごす[10]。なお、この音楽プロデューサーは後に山崎のチーフマネージャーになっている。
デビュー後

1995年初頭にポリドール・レコードと契約がまとまり、同年9月にシングル「月明かりに照らされて」でメジャー・デビュー。デビュー時のキャッチコピーは「天才より凄いヤツ」[注 6]。

1996年2月にセカンド・シングルの「中華料理」、4月には、約2年のレコーディングを経て完成したファースト・アルバム『アレルギーの特効薬』をリリース。本作品の思い出として、後にインタビューでは「ただ出せるだけで嬉しかった」と、思い入れの深さを語っている[11]。同年9月には、後にSMAPがカバーすることになる「セロリ」をリリース[注 7]、12月にはイベント・ライブ「Act Against AIDS」に参加した（同イベントには、この年以降も不定期で数回出演）。

公式ファンクラブが発足された1997年1月、初の主演映画である『月とキャベツ』（監督・篠原哲雄）が公開される（文部省推薦映画）。映画のテーマ曲「One more time, One more chance」もほぼ同時期に発売。同シングルは徐々にチャートを上昇するロング・ヒットとなり、一躍知名度が上がった。ライブで頻繁に歌われる楽曲が多く収録されたセカンド・アルバム『HOME』もオリコンアルバムチャートで最高4位を記録。

1998年4月、北海道札幌市にあるZepp Sapporoのこけら落しライブ「福耳」に杏子、山崎まさよし、スガシカオの3人で出演。音楽ユニット "福耳" の実質的な誕生となった。同年10月には、初めての連続テレビドラマ『奇跡の人』（YTV系、1998年10月 - 12月）に主役級で抜擢される。主題歌の「僕はここにいる」はオリコン・シングルチャート初登場3位を獲得、自身初のベスト3入りとなった。1998年については、シングル曲を決める際に初めて自己主張をして「水のない水槽」がシングル化された点を挙げ、「自我が目覚めた年」と語っている[12]。

1999年7月末、NHKの番組企画[13]でアメリカ・ミシシッピ州に赴き、伝説のブルースマンハニーボーイ・エドワーズや名ブルースプレイヤーのR.L.バーンサイド等とブルース・セッションをした。11月には、3か月独りでスタジオにこもって制作したという4作目のアルバム『SHEEP』を発表した。
2000年?

2000年2月、アルバム『SHEEP』より「やわらかい月」を別アレンジでリリース。リカットされた初めての楽曲となった。当楽曲は、NHK水曜ドラマ『ただいま』の主題歌に使用され、同ドラマには本人役で出演もしている。9月2日、昭和記念公園で3万人の野外コンサートが行われ、テレビカメラ10台で撮影されたが、何故か映像の放映も発売もされなかった。後にオーガスタ キャンプ総集編TV放映時に「残念ながら2000年の映像は存在しません」とテロップが流れたが、その真意は山崎が終始左だけ見ていたため関係者によると編集不可能で映像の放映も発売も断念せざるを得なかった。同年9月25日、デビューから丸5年を迎えたその日に、初のライブ・アルバムをリリース[注 8]。

2001年6月、5作目のアルバム『transition』を発表。7月には十代を過ごした防府市・中関港特設会場にて、当時恒例イベントになりつつあった「Augusta Camp 2001」が開催される。山崎自身にとっては、想い出の場所での凱旋ライブとなった[注 9]。

2002年5月、ライブ録音シングルとしてリリースした「心拍数」（各地域編合わせ10タイトルを同時リリース）が、同一曲の同時10曲オリコンチャートTOP50入りのチャート寡占記録を達成。日本テレビの番組企画では、ワールドライブツアー中のポール・マッカートニーが居る客室にポールを訪ねポール本人の前で「All My Loving（ビートルズ）」をアコースティック・ギターの弾き語りを披露。ポールは「素晴らしい！（Excellent!）でも1つだけコードを間違えたね。（冒頭に）君はメジャーコード（F♯）を弾いたけど（正しくは）マイナーコード（F♯m）なんだよ。僕の生徒君!（my student!）」と指摘。「これで僕らもレコードデビュー出来るぜ」とも述べている。山崎は大変緊張して「もう1度やり直したいです。無理ですよね」「全国のビートルズファンの皆さん、ごめんなさい」と述べている。山崎は同年の「Dream Power ジョン・レノン スーパー・ライヴ 2002」にも出演した。

2003年3月、約2年ぶりにスタジオ・レコーディングされたシングル盤「全部、君だった。」がリリース。本シングルでは、DVDが一緒にパッケージングされた初回限定盤が初めて生産された。6月には、同じく2年ぶりとなるアルバム『アトリエ』リリース。本アルバムのジャケットでは山崎自身のフォトが使用されず、本人が描いた自画像が使用された（下記 #エピソード 参照のこと）。

2004年4月に、阪神・淡路大震災復興チャリティ・コンサート、8月には、歌手・さだまさしが故郷長崎市で開催している、平和祈念無料コンサート「2004 夏 長崎から さだまさし」へ初参加[注 10]。これらのイベント以降も、夏から秋口にかけて全国各地で開催された野外ライブへ積極的に参加した[14]。また、この年発表された2枚のシングル「僕らは静かに消えていく」「ビー玉望遠鏡」では、前者が約30分に及ぶショート・フィルム、後者は長野県上田市へ赴いて現地の学校で撮影された個性的なミュージック・ビデオがそれぞれ制作された。
2005年?

メジャー・デビュー10周年を迎えた2005年（平成17年）、映画『8月のクリスマス』（監督・長崎俊一）に主演。同名タイトルの主題歌のみならず、劇中の音楽も手がけた。