近代的な欧米の図書館制度を日本に最初に紹介したのは福沢諭吉である[7]。幕末に渡欧した福沢は、著書『西洋事情』の中で大英博物館図書室をはじめ、諸外国の納本制度を報告。『西洋事情』を参考にした市川清流は、1872年（明治5年）5月に明治政府に幕府の遣欧使節団の経験を活かした「書籍院建設ノ儀」という建白書により[8]、初の国による近代的図書館「書籍館」（のちの「浅草文庫」、「東京書籍館」）が文部省によって設けられ、一時内務省に移管された。また京都では、日本国初の公共図書館「京都集書院」が設けられた。
その後、1895年（明治28年）に日清戦争に勝利すると、国立図書館を求める声が高まり、政府は1897年（明治30年）4月22日に「帝国図書館官制」を公布して「帝国図書館」が誕生した。またこのとき初めて「司書」が規定された。その後、帝国図書館が1906年（明治39年）に新築されると、閲覧者数は一日平均数百人を超えるようになった。1899年（明治32年）公布の図書館令において図書館という語が用いられたことで、知識階層以外の一般国民にも図書館の存在が定着した[9]。
地域活性化（町おこし）、平成16年10月1日には経営不振の公立図書館を再建するために日本で初めてのPFIによる民間企業の委託によるPFI図書館（桑名市図書館等複合公共施設）が運営開始された[10]。 図書館の機能は大きく分けて6つある。 図書館がサービス対象者の情報ニーズに合わせて提供するサービス全体を「図書館サービス（英：Library Services）」という[13]。かつては、図書館奉仕、図書館活動と称された[14]。（なお図書館関係法規などでは現在でも図書館奉仕を用いている[14]）図書館サービスは、図書館及び利用者の種類、サービスを提供する施設の目的によって異なる[13]。 1949年に制定された「ユネスコ公共図書館宣言
図書館の機能
（1）図書館資料の収集
図書、新聞、雑誌をはじめとして、CDなどのマルチメディアの収集を行う。各図書館における収集方針と基準に沿って資料の選択と収集が行われる[11]。収集方法には、具体的には、購入、寄贈、交換、寄託などがあるが、一般的には購入によるものが中心である[12]。また、利用されなくなった資料のうち、保存するだけの資料価値が乏しいと判断されたものは定期的に廃棄（除籍という）して、資料の整理を行う。
（2）図書館資料の整理
収集した資料を利用者が迅速に利用できるように整えること。収集された資料は各館が定めた分類法（日本の公立図書館などでは、「日本十進分類法」に沿ったものが多い）により分類番号をつけて利用されやすいように整理する。また目録規則（日本では「日本目録規則」が用いられることが多い）に従って各資料の目録が作成されており、これを検索することによって資料の情報を得る。
（3）図書館資料の保存
各種資料はその材質に応じて適切に保存する必要がある。また、図書の劣化に対応して、補修を行ったり、貴重な資料に関しては（たとえば、電子的な）複製の作成も行う。さらに増大する新規資料を保存していく場所の確保も重要である。その一つの方策として前述の除籍がある。
（4）図書館資料の提供
図書館の最大の業務は資料・情報提供である。
（5）集会活動、行事の実施
図書館利用の広報活動のことである。
（6）資料及び図書館利用に関する指導
図書館の利用のガイダンスを行うことである。
図書館サービス
日本においては、1948年2月に制定された国立国会図書館法で「図書館奉仕」という語が初めて登場した[18]。第二次世界大戦前の日本の図書館では、図書館が利用者にサービスする機関であるという意識は薄かった[18]。戦後の諸改革の過程でユネスコ公共図書館宣言をはじめとする海外のサービス理念が伝えられた[18]。
図書館サービスには、代表的なものには次のものがある。
貸出 lending service
複写 copy service
リクエスト・予約 request service