ジャズの聴き手や演奏家には、都会人やブルジョワ階級の子弟が多かった。当時のレコード業界はポリドール（1927）、ビクター （1927）、コロムビア（1928）と外資系の大手レコード会社が設立された。テイチクは、異業種参入組のキング（大日本雄弁会講談社のレコード会社）より更に遅い1934年だが、その年の12月に発売したディック・ミネの「ダイナ」がヒット。「ダイナ」はよくカバーされた日本のジャズソングであり、榎本健一はパロディとしてカバーした。

最初のジャズソングとされるのが二村定一がジーン・オースティン（英語版）の"My Blue Heaven"をカバーした「青空」で、1927年にラジオ放送された。レコードが発売されたのは翌年の1928年。A面が「青空」、B面が「アラビヤの唄」だった。また、ラジオ、レコードで企画を立ち上げる人間も必要になり堀内敬三が登場した。初期のジャズ演奏家である紙恭輔がコロムビアに関わった。

1930年代のスウィングジャズは、時代の最先端であり、服部良一は1935年当時のデザインの流線型を題材にした「流線型ジャズ」（志村道夫）を世に出した[42]。しかし、1940年10月31日限りで日本全国のダンスホールは一斉閉鎖された。

行政警察を管掌する内務省、映画や音楽を監督指導する情報局はジャズを「敵性音楽」として禁令[注釈 6]を出したが、抽象的過ぎて何の曲がジャズに含まれるか、音楽の素人である役人に判別は難しかった。また1943年1月にはジャズレコードの演奏禁止、更にレコードの自発的提出、「治安警察法第十六条」の適用による強制的回収などにより米英音楽の一掃を図ったが、北村栄治のように自宅でこっそり聴いていた者もいた。最終的には役人に協力する音楽業界の人間が、日本音楽文化協会、いわゆる「音文」（音楽界の統制団体）の小委員会の決定により、「ジャズの演奏は禁止」となった。こののちジャズメンの活動は、各種の慰問団などに変わっていった。

戦前に活躍したジャズ・ミュージシャン、ジャズ歌手としては、二村定一、服部良一、淡谷のり子、ディック・ミネ、志村道夫、南里文雄、堀内敬三、川畑文子、ベティ稲田、井田一郎、レイモンド・コンデ、水島早苗、あきれたぼういずらがいた。
戦後日本のジャズ

戦後、ジャズ、カントリー、ハワイアンなどのアメリカ音楽が、日本に入ってきた。進駐軍の音楽は、「ベース」で演奏された。戦後の日本のジャズの早い例には、ニュー・パシフィック・ジャズバンドがあげられる。弘田三枝子、伊東ゆかり、しばたはつみは少女歌手として、米軍キャンプで歌った。

戦後は、服部良一が作曲したブギウギを笠置シヅ子に歌わせたことから始まる。江利チエミ、ジョージ川口、ティーブ釜萢（ムッシュかまやつの父）、ナンシー・梅木、世良譲などのすぐれた歌手、演奏家などが出、ジャズが大衆化した。一時期は、外国のポピュラー音楽をすべて「ジャズ」と呼ぶ風潮が広がったほどである[44]。また、ディキシーランドジャズ・バンドが数多く生まれている。

鈴木章治とリズムエース、北村英治らも音楽活動を始めた。宮沢昭、守安祥太郎らも活躍した。1956年に穐吉敏子が、1962年に渡辺貞夫がバークリー音楽院（現バークリー音楽大学）に留学[45]。1963年には松本英彦がモントレー・ジャズ・フェスティバルに出演する等、国際的に活動するミュージシャンも増えていった。八木正生、猪俣猛らも活躍した。

1960年頃、アート・ブレイキーのモーニン（1958年発表）のヒットにより、ファンキー・ブームが起こった[46]。1961年に発足、翌年改名したミュージシャンたちの勉強会 新世紀音楽研究所（改名前はジャズ・アカデミー）に集った高柳昌行、富樫雅彦、日野皓正、菊地雅章、山下洋輔らが、毎週金曜日に銀巴里でジャムセッションを行った。日野皓正は、そこが自身の原点だと述べる[47]。

1965年、ニューポートジャズフェスティバルに日本人ジャズシンガーとして初めて出演したのは、3日目のトリをビリーテイラートリオと一緒に出演した弘田三枝子だった。1960年代、70年代から日本でもフリー・ジャズが盛んになってくる。日本のフリー・ジャズの先駆者となったのは、阿部薫、高柳昌行らである。1970年代後半になるとフュージョン・ブームとなり、渡辺貞夫らもフュージョン・アルバムを出すほどだった。中央線沿線を拠点とするミュージシャンも多く登場し、1980年代後半、新星堂のプロデューサーが続に中央線ジャズという言葉を提唱した[35]。

21世紀に入ってからも、H ZETTRIO、山中千尋、矢野沙織、寺久保エレナ、上原ひろみ、国府弘子、西山瞳、菊地成孔、小曽根真、石若駿らが活躍した。