後に狗邪韓国（金官国）そして任那となる地域は、弥生時代中期（前4、3世紀）に入り従来の土器とは様式の全く異なる弥生土器が急増し始めるが、これは後の任那に繋がる地域へ倭人が進出した結果と見られる[9]。朝鮮半島における倭国の北端である『三国志』魏書東夷伝倭人条の項目における狗邪韓国（くやかんこく）の後継にあたる金官国を中心とする地域に含まれる。

古代は任那（伽耶）に含まれる地域である。新羅に合併された時に居漆山郡になり、統一新羅時代の757年に良州（現在の梁山市）所属の東?郡を設置、現在の市街地地域に東平県、機張郡に機張県が東莱郡の下に設けられているが、地域の中心は金海にあった。

任那について倭が新羅や百済を臣民とした等と書かれている、広開土王碑日本軍改竄説が否定され、またいくつもの日本固有の前方後円墳が朝鮮半島南部で発見され始めたことなどから、近年ヤマト朝廷そのもの或いは深い関連を持つ集団によるこの地域の統治権、軍事統括権および徴税権の存在について認める様々な見解が発表されている。
中世・近世

高麗時代の富山浦は蔚州の東莱県に所属する漁村であった。

李氏朝鮮（朝鮮王朝）時代、釜山地域にははじめ東莱県、のちに東?府（東莱都護府）が置かれた。対日防衛の要衝であることから慶尚左道都万戸が置かれた。また、対日交易の拠点としても重要な位置を占め、15世紀始めには富山浦に日本人居留地である倭館が設置された（浦所倭館）。以後、釜山地域は三浦の乱や文禄・慶長の役など中世日朝関係の曲折の舞台となった。

朝鮮王朝と江戸幕府の交渉が復活すると、龍頭山一帯に対馬藩の草梁倭館が設置された。江戸時代、「鎖国」(海禁)時代の日本では、蝦夷地および琉球とともに、日本人が海外に居住できる限られた場所となった。
近代

1877年の日朝修好条規によって朝鮮が開国した際、3ヶ所の開港地（他の2港は仁川・元山）の一つとなり、倭館はひきつづき日本人居留地となった。以後、釜山港の貿易港としての整備とともに、港湾都市釜山は発展することになる。1905年には鉄道（京釜線）が開通し、釜山駅が開業した。

この間、行政面では1895年に慶尚道が廃止されて東?府（二十三府制）になったが、翌年に慶尚南道になり、道庁が釜山に置かれた。

日本統治時代の1914年には行政区画の整理が行われた。このとき、旧釜山府の日本人居留地一帯（釜山港周辺）を新.mw-parser-output ruby.large{font-size:250%}.mw-parser-output ruby.large>rt,.mw-parser-output ruby.large>rtc{font-size:.3em}.mw-parser-output ruby>rt,.mw-parser-output ruby>rtc{font-feature-settings:"ruby"1}.mw-parser-output ruby.yomigana>rt{font-feature-settings:"ruby"0}釜山府（ふざんふ）として編成した。郊外部では旧釜山府の農村部と機張郡を東?郡として改編した。

以後、日本統治下では1936・42年の二度にわたって釜山府は府域拡張を行っている。1936年には西面など（現・釜山鎮区などの一帯）が、1942年には東莱邑など（現・東?区などの一帯）が東莱郡から府域に編入された。

1940年1月6日、釜山市沖合で密航船が転覆。密航者114人が行方不明[10]。
第二次世界大戦後

1949年に釜山府は釜山市に改称した。1950年に朝鮮戦争が勃発し、ソウルが陥落すると、釜山は1953年まで大韓民国の臨時首都となった。釜山には戦争を避けた難民が多く移り住み、人口が増加した。

1957年には出張所を改めて区が設置され、1963年には釜山直轄市に昇格した。朝鮮戦争後は、金海郡の一部（現・江西区一帯）を編入するなど数次の市域拡大を行っている。1995年に釜山広域市に名称を改めるとともに、梁山郡内の旧東莱郡域（現・機張郡）を市域に編入した。

2000年には文化観光部2000年式の告示に伴い、公式の英語表記がそれまでの Pusan から Busan に改められた（ただし釜山大学校など、現在も Pusan の表記が使われる場合もある）。

長らく市庁は港に近い旧市街地の古い建物を使っていたが、1999年に蓮堤区に市庁の庁舎を建設して移転、裁判所なども蓮堤区に所在している。市庁跡地には超高層ビルの釜山ロッテタウンタワーが建設中で、2026年に完成する予定である。

市の人口は近年まで増加の一途をたどり、一時400万人前後に達したが、2000年以降徐々にドーナツ化現象によって減少傾向にあると言われる。

2021年、2030年の国際博覧会の誘致に向け活動を本格化。釜山港の北側周辺を万博会場とする計画を立て各国に働きかけを行い[11] 日本などの支持を得て[12]2023年11月28日、開催地を決定する投票に臨んだがサウジアラビアのリヤドに大差で敗れた[13]。