イスラム世界では、830年にアッバース朝の第7代カリフ・マームーンが、バグダードに 知恵の館（バイト・アル＝ヒクマ）を設立した。知恵の館では、写本とともにペルシャ語やギリシャ語の文献の翻訳も行われた[1]。イベリア半島でアンダルスのウマイヤ朝が成立すると、コルドバには7つの図書館が建設され、カリフの図書館だけで40万巻の蔵書があった[2]。

中世ヨーロッパでは、修道院に図書館・図書室が併設されていることが多かったが、この頃の主要な紙である羊皮紙はとても高価であり、更に、識字率も低かったため、写本1冊で家が買えるほど貴重なものであった。そのため、本は鎖で本棚につながれていた。

歴史的には、学術研究用に資料を集めた場として、学者や貴族以外の者は利用できなかったり、利用が有料であったりした時代が長い。15世紀のグーテンベルクによる活版印刷の発明で、本が大量生産できるようになって初めて「誰でも無料で」の原則が広まり、民衆の間に会員制の組合図書館、都市図書館が開設された。図書館は活版印刷による複製物を体系的に収集保存提供することで、知識共有のための社会的装置となった[3]。近代的な組織は知識水準を保持するために図書館を持った[3]。しかし、中国などの漢字を使う地域では漢字一つ一つの金属活字(活版印刷で使う判子のようなもの)が必要だったため、活版印刷はあまり広がらず、謄写版(ガリ版)印刷が主流として残り続けた。

フランスでは、1367年にシャルル5世によって王室文庫が創立され、 フランス国立図書館となった。イタリアでは、1452年にマラテスティアーナ図書館が創立された。イギリスでは、1598年にボドリアン図書館が開館した。
20世紀

20世紀になると、図書館は、学校、企業、医療施設などによって構成員の情報や知識の共有手段として位置付けられるようになった[3]。
アジア

中国においては、それぞれの王朝は蔵書楼（書庫）を持っていた。寺院には仏典を保管する施設として蔵経閣（英語版）があった。明代中期には私立蔵書楼が作られ[4]、現存する中国最古の私立蔵書楼として天一閣がある。学校である国子監や書院は書庫でもあった。中国内で初の近代的図書館は、イエズス会宣教師によって1847年に作られた徐家匯蔵書楼で、1900年代には公共図書館が建てられた[4]。

東南アジアにおいては、仏典を保管する施設としてミャンマーではピタカタイク、タイではホートライが建てられた[5]。
日本国立国会図書館

日本の図書館の歴史は、文庫、書庫、書府、経蔵や書籍館（しょじゃくかん）に遡る。近代以前の日本における図書館（的な施設）としては図書寮や芸亭、金沢文庫、足利学校などが有名である。青柳文庫は仙台藩藩校・養賢堂から分離独立した仙台医学館構内に1831年（天保2年）に設置され、身分に関係なく閲覧・貸出がなされた。青柳文庫が日本初の公共図書館とすることには異論もある[6]。

近代的な欧米の図書館制度を日本に最初に紹介したのは福沢諭吉である[7]。幕末に渡欧した福沢は、著書『西洋事情』の中で大英博物館図書室をはじめ、諸外国の納本制度を報告。『西洋事情』を参考にした市川清流は、1872年（明治5年）5月に明治政府に幕府の遣欧使節団の経験を活かした「書籍院建設ノ儀」という建白書により[8]、初の国による近代的図書館「書籍館」（のちの「浅草文庫」、「東京書籍館」）が文部省によって設けられ、一時内務省に移管された。