紀元前264年にアレキサンドリアに住むクテシビオスが、水力によって空気を送り込み、手で弁を開閉させることによって音を出す楽器「水オルガン」（ヒュドラウリス (Hydraulis)(en)）を製作したことが記録に残っている。水オルガンは青銅と木でできており、大理石でできた円筒状の基礎に乗っていた。大理石の中には貯水槽とピストンが備えつけてあり、圧縮空気を上部のパイプに送り出した。外見はパンパイプを機械化し、直立させたものに近い。これをアレキサンドリアのヘロンとローマ人建築家のウィトルウィウスが改良し、地中海地方に水オルガンは普及した[1]。

水オルガン奏者たちは演奏会で腕を競いはじめ、デルフォイの演奏会ではアンティパトロスという奏者が、丸2日間休むことなく演奏を続けて栄光を勝ち取った。結婚式、競技場、宣誓就任式、晩餐会、劇場などでも水オルガンが演奏された。水オルガンの奏者は女性が多かったが、剣闘士の試合などでは男性が演奏したことがわかっている。また、ネロ帝も水オルガンを好んで演奏した。水オルガンはローマ帝国の勢力が衰えるにつれて地中海地方では衰退したが、ビザンティン帝国では宮廷の儀式用に用いられ続けた（続テオファネス年代記には、皇帝テオフィロスが宝石がちりばめた黄金製オルガン2つと、60個のブロンズ製のパイプをもつオルガン1つを作らせたとの記載がある）。一方、アラビアにも伝播して改良が重ねられていった。
古代の水オルガンの遺物の出土例

ギリシアのピエリア県のディオン村（英語版）には、ヘレニズム時代の都市ディオンの古代遺跡が残り、同村にあるディオン考古学博物館（英語版）に出土した1世紀の水オルガンが展示されている。ディオン考古学博物館（英語版）に展示されている1世紀の水オルガン

ハンガリーの首都ブダペスト市内にある古代ローマ都市アクィンクム遺跡でも水オルガンが出土しており、復元品がアクィンクム博物館に展示されている。
ふいごによるオルガン

紀元前1世紀はじめ、水オルガンとは仕組みの異なるふいごによるオルガンが出現していることが確認されている。ふいごを用いる改良は、オルガンにとって大きな進化となった。音を途切れさせないためには複数のふいごを設置することでそれを防いでいた。
中世

9世紀に、ヨーロッパでオルガン製作が再び始まるようになった。当初は宗教とは特に関係はなかったが、13世紀には教会の楽器としても確立された。一方で、世俗にも比較的小型の楽器が普及した[2]。
ルネサンス

15世紀後半から16世紀のルネサンス時代には、ストップの多様な組み合わせによって音色の変化が効果的に用いられるようになった。現在のほぼすべてのオルガンに採用されている「スライダー・チェスト」が発明されたのはこの時代で、スライダーを用いてストップを選択するという方式が定着していった[3]。オルガンが日本に伝来したのはこの時期で、1581年に高山右近統治下の高槻の教会に設置されたパイプオルガンが日本で最初とされる[4]。
バロック

17世紀から18世紀前半のバロック時代はオルガン文化の全盛期にあたる。特に北ドイツでは、新教が大オルガンを建造することを競い始めるようになり、巨大化が加速された。オルガン建造家として現在も伝説の巨匠とされるアルプ・シュニットガー[5]やジルバーマン兄弟もこの時代に活躍した。世間にも広まった時期で、新興階級の部屋に置かれることもあった。
シンフォニック/ロマンティック・オルガン

19世紀から20世紀初頭には、多様な8'の音色による交響楽的な設計のオルガンが作られ「シンフォニック・オルガン」や「ロマンティック・オルガン」と呼ばれる。作曲家たちの間ではオルガン・ソロのための交響曲を書くことが流行したことからも、この時代のオルガンがどのような傾向を持っていたかが窺える。建造家としてはアリスティド・カヴァイエ＝コルが特に有名である[6]。
ネオバロック・オルガン

20世紀にドイツに起こった「オルガン運動」によって古い時代のオルガンが見直されるようになり、バロック時代のオルガンを模倣した「ネオバロック・オルガン」が数多く造り出された[7]。