1912年8月27日，京师图书馆在北京广化寺正式开馆。其管理之责实际落在时任教育部佥事、社会教育司第一科科长鲁迅的肩上。此后一段时间，京师图书馆催调各省官书，请领文津阁《四库全书》，申请接收《古今图书集成》等，
1917年1月26日，京师图书馆迁入方家胡同国子监南学旧址重新开馆。这一馆舍所处地点同广化寺一样，对读者来说仍属偏僻、交通不便，加上部分房屋陈旧，房间过于分散，不便管理。
1929年1月10日，国立北平图书馆在居仁堂举行开馆典礼。居仁堂原为1900年后慈禧饬建的西式两层楼建筑，现已无存。其建筑尚新且有消防设备，不需要太多的修缮改造费用。更重要的是，城内读者到此阅书路程都不远，较适宜改作图书馆之用。
1931年5月，国立北平图书馆文津街新馆舍落成，成为当时地标性建筑,由此结束了国立北平图书馆自成立以来没有专用馆舍的历史。该馆舍按照图书馆典藏图书、提供服务的需要设计建造，比以前借用、租用的寺院、官房、宫殿等建筑更适合图书馆业务的发展。如今，该馆舍为国家图书馆古籍分馆。
1987年10月6日，北京图书馆14万平方米新馆投入使用。由于条件与环境的极大改善和各种高科技手段的运用，北京图书馆跨入了当时世界先进图书馆的行列。
2008年9月9日，国家图书馆二期暨国家数字图书馆正式开馆对外接待读者。新馆将图书馆的传统文献服务与数字信息服务相融合，集查寻、阅览、咨询、典藏和网络服务于一体。其大量采用新技术手段提供服务――无线网络覆盖整个馆区，馆区内配置500台计算机，读者可以方便地阅读中外文电子图书、电子期刊和特藏数字资源；同时专门设置了视觉障碍人士服务区，视觉障碍人可通过“盲人数字图书馆”获得数字信息。
 |
