日本最初の公開図書館は、幕末から明治維新まで仙台藩が設置していた青柳文庫だといわれている。しかし、一部には奈良時代にあった芸亭院を、最初、もしくは最古のものとする説もある（桑原蓼軒『芸亭院-日本最初の公開図書館』芸亭院創始千二百年記念会 1962年）。これは石上宅嗣が自宅に設けた個人図書館である。その後、鎌倉時代に北条実時が設けた金沢文庫を公開図書館とする向きもあるが、これは利用には厳しい条件があったようで、かならずしも公開図書館とは呼べないものであったらしい。近代では、明治にはいって、1875年-1881年、浅草に官立で設置された浅草文庫というものもある。