茅ヶ崎市立茅ヶ崎小学校、茅ヶ崎市立第一中学校を卒業[5]。高校受験の季節になり、志望校として都立日比谷高、早稲田実業、慶應義塾高三校の学校見学に行き、プールが日吉 (横浜市)と三田 (東京都港区)に二つあること、なんとなく伸び伸びした校風が自らに合っていることを理由に慶應高校のみを受験することにした。受験校を決めてからの半年間は、英語・数学・国語の主要3科目にそれぞれ家庭教師を付けていたことに加え、例えば一日に英単語200個を暗唱したように猛勉強し、合格をつかみ取った[6]。慶應高時代にはボクシングやバンドなどを始め、また冬になると海から山に興味関心が湧き移りスキーを始めた。後の慶應大学時代の1959年には、スキーで念願の国体蔵王大会に出場した[6]。
芸能人として『平凡』1967年新春特大号の新聞広告

慶應義塾大学法学部政治学科卒業後の1960年春に東宝へ入社[3]。同年『男対男』で映画デビュー[3]、『独立愚連隊西へ』で初主演[3]。当時、東宝本社と同じく有楽町にあった渡辺プロダクションにも一時期在籍した。

1961年、『夜の太陽』で歌手デビュー。NHK『紅白歌合戦』出場17回。代表曲多数。後のフォークソングやニューミュージック全盛時代に先立つ、日本におけるシンガーソングライターの草分け的存在であり、また日本で初めて多重録音を手がけた歌手でもある。

ソングライターとしてのペンネームは、加山が尊敬している團伊玖磨と山田耕筰を足して2で割った弾厚作（だんこうさく/ドン・コサック）であり、同名義で作曲（稀に作詞もある）している。

『日刊スポーツ』1964年6月10日付に「波乗り日本第一号 加山雄三 サーフボード作る」と載る。

1965年12月に映画『エレキの若大将』主題歌として発売された『君といつまでも』はレコード販売350万枚の大ヒットになり、1966年の第8回日本レコード大賞の大本命とされていたが、結局大賞は同曲に比べ売上面で劣る橋幸夫の『霧氷』が受賞することとなり、「君といつまでも」は特別賞に留まる。

俳優としてはそれまでの宝田明に代わって東宝の若手看板スターとして大活躍、娯楽映画の「若大将シリーズ」が大ヒットし代表作となるが[3]、一方で黒澤明、成瀬巳喜男、岡本喜八といった名匠の作品にも多く出演している。ブロマイドは女学生を中心に爆発的な売れ行きを記録した。

1964年、加山雄三は従弟の喜多嶋瑛、喜多嶋修の兄弟と、大矢茂の4人で、第二期ザ・ランチャーズを再結成した。

1965年7月?8月にかけて、ザ・ベンチャーズとTV番組で共演し、永年にわたる彼らとの交友関係のきっかけとなった。『ザ・ヒットパレード』「花椿ショウ スターの広場」に出演時、加山雄三はブラックサンドビーチを「僕が3日前にこの番組の為に作曲した」と言っている[7]。ザ・ベンチャーズが使用したmosrite（モズライト）のギターは、全ての日本公演終了後に、経緯は不明ながら加山雄三に渡り、映画『エレキの若大将』で使用された。

1966年、高校生であった喜多嶋修と大矢茂に芸能活動の制限が掛かり、サポートメンバーとしてサイド：堤光生、ベース：岩崎道夫が参加、映画「歌う若大将」に映像として残っている。同年3月には、来日中のザ・ベンチャーズより直接ギター演奏の指導を受ける機会があり、その時の模様は堤光生によって録音されていた。

1965年、神奈川県茅ヶ崎市にパシフィックホテル茅ヶ崎を開業[注釈 2]。1967年、運営会社の日本観興開発（後に株式会社パシフィック・ジャパンに改称）取締役に就任。しかし、パシフィック・ジャパンは1970年3月に23億円の負債を抱え倒産。ホテルは18億円で売却され、監査役だった加山は、父の上原と共に巨額の債務を抱えた。加えて、女優松本めぐみとの結婚が世間を騒がせ、1969年の『フレッシュマン若大将』以降低迷した同シリーズが1971年に終了、映画出演の減少もあいまって、かつてない不遇の時代を迎える。ナイトクラブ、キャバレー回りをするも、ギャラはほぼ全額借金の返済に充てられ質素な生活へと追い込まれるが、10年で完済した。

その後、活動の主軸をテレビに移し[3]、『みごろ!たべごろ!笑いごろ!』（NET→テレビ朝日系）を始めとするバラエティ番組、『江戸の旋風』『大追跡』『ぼくの妹に』などのテレビドラマやドラマの挿入歌『ぼくの妹に』のヒットで徐々に息を吹き返す。加えて「理想の父親」と呼ばれるほど世間からの好感が高く、ヤマザキナビスコのクラッカー「プレミアム」で家族全員でCM出演をする程、「理想の家族」としても認知度が高い。1990年前後の時点では本業は俳優であると述べていたが、21世紀に入ってからは俳優活動は殆ど行なっておらず、歌手としての活動がメインになっている。

1974年1月5日、北海道のルスツスキー場で雪上車が突然滑り出す事故に巻き込まれ左肩を骨折[9]。

1986年 - 1988年に『NHK紅白歌合戦』で白組司会（1986年は「キャプテン」名義）を3年連続で務めた。1986年の『第37回NHK紅白歌合戦』では、白組トップバッターを務めた少年隊の『仮面舞踏会』曲名を誤って「仮面ライダー」と紹介した。

1991年12月28日、新潟県南魚沼郡湯沢町に加山キャプテンコーストスキー場を開業。2010年 - 2011年シーズンまで営業したが、2011年に発生した東北地方太平洋沖地震（東日本大震災）の影響や若者のスキー離れなどによる経営資金調達困難などが影響し、2011年7月に閉鎖を決めた[10]。

1993年にアメリカ合衆国のMosriteよりマリンブルーと「若大将シリーズ」でおなじみだった白の2色にファズを搭載した加山雄三モデルギターが発売された。

1994年、ザ・ワイルドワンズの島英二に声をかけられて、仲間内で久しぶりにエレキギターを弾いてザ・ベンチャーズごっこをやっていたところ、事務所の社長の鶴の一声がきっかけで「加山雄三&ハイパーランチャーズ」を結成。

1997年4月23日、加山の60歳の誕生日を記念したCD2枚組のトリビュート・アルバム『60 CANDLES』がファンハウスから発売。