大学の定義によるが、高等教育機関の歴史で言うと、
紀元前7世紀創設のタキシラの僧院。 世界遺産の遺跡がある現在のイスラマバード北西、パキスタンのタキシラにあったが、西暦6世紀に街と共に破壊された。
紀元前5世紀設立のナーランダ大学。インドのナーランダに所在。
988年創設（イスラム神学）アル＝アズハル大学（966年設立のモスクに由来）。 エジプトのカイロに所在。
が最古のものとなる。
ラテン語起源の "universitas" で呼ばれたものという基準でみると、イタリアの"Alma Mater Studiorum" （1088年設立、現在のボローニャ大学）になる。
紀元前7世紀設立の タキシラの僧院では卒業生に学位にあたるものを与え、紀元前5世紀設立のナーランダ大学でも学位にあたるものの授与のほかに、今の大学院にあたるコースも行っていた。
10世紀設立の アル＝アズハル大学は、カイロで多様な大学院コースを行っており、最初の成熟した大学と見なされている。
古代インドの タキシラ、ナーランダ、ヴィクラマシラー、 カーンチプラム は学問の中心地として存在し、特に ナーランダ は仏教の学問研究で有名で、中国、東アジア、中央アジア、東南アジア、ペルシア、中東からも人々が学びに来ていた。
また修学とともに学位にあたる称号を授与する慣習は
岳麓書院（書院 (中国) 976年（北宋時代）創立、中国）
アカデメイア（ギリシャ・アテナイ, Αθ?ναι）
グンデシャープール大学（ペルシャ・グンデシャープール、6世紀（サーサーン朝））
で行われていた。
ギリシャの哲学者プラトンが紀元前387年にアテネ近郊アカデモスの木立に作ったアカデメイアでは、哲学、数学、体育を教え、ヒッポクラテスの故郷 コス島 には医学校、ロードス島には哲学の学校があった、他の古代の学問研究機関としてはアレクサンドリアの博物館・図書館がある
中国の古代の伝説では『漢書』儒林伝では、「夏は校と曰い、殷に庠と曰い、周に序と曰う」とある。周朝では辟雍と呼んだともいう。しかし、高等教育機関の名として大学の名称が周のものとして伝えられるものに由来することが有名である。礼記王制「天子命之教然後為學。小學在公宮南之左、大學在郊。天子曰辟癰、諸侯曰?宮」
等の名で呼ばれた。
たとえば現在の南京大学は、三国時代の呉王朝の南京太学（呉の中央高等教育機関）として258年に設立された。
カロリング朝には、アーヘン（今のドイツ・ノルトライン＝ヴェストファーレン州の街）に、シャルルマーニュが scola palatina, palace school, 宮廷学校 という名の学校を作った。Brexgata University Academy もカロリング朝指導者により、798年、今のフランス、Noyon 近郊に設立、学者、統治者、聖職者、シャルルマーニュ自身などが参加して、
一般市民の教育について、
統治者の子どもの（次世代の統治者としての）教育；統治、侵略者からの領地の防衛、浪費を防ぐ術 など
議論していた。これらの活動は11世紀の西欧の大学の予兆となる。
ヨーロッパにおける中世最初の大学は、ビザンツ帝国アモリア王朝3代皇帝ミカエル3世の摂政 Bardas Mamikonian によって849年に建てられた、コンスタンティノープル大学（あるいはマグナウラ宮殿の大学）で（次代のマケドニア朝ルネサンスの先駆）、9世紀にはサレルモ大学が作られた。ボローニャ大学（1088年）、後にソルボンヌと提携する、パリ大学（1100年頃）と続く。西欧の多くの中世の大学はカトリック教会の後援により生まれた。
ヨーロッパ以外で作られた最初の大学は今のメキシコ国立自治大学で1551年にサラマンカ大学に基づいて作られた カリブ海域では1721年創設のハバナ大学が最古である。