1948년에 설립되었으며, 연 건평 1만 7000㎡의 7층 건물에 2,000석의 좌석을 갖추었고 1964년 당시 장서는 152만부에 달하였다.
이곳에는 문헌열람실, 사회과학 및 문학예술 열람실, 일반열람실, 민족고전열람실, 학생열람실, 특수열람실 등 10여 개의 부문별 열람실이 있었으며, 무대 및 영상시설을 갖춘 500석의 군중공작실을 비롯한 봉사시설도 구비되어 있었다.
이 도서관에는 귀중한 민족고전만도 10여만 부가 소장되어 있었다. 이 가운데에는 우리나라의 유구한 출판 역사를 보여주는 고려 중엽의 목판본으로 된 『동인지문(東人之文)』, 세계에서 가장 오랜 역사를 가진 활자본 『한노개녹권(韓奴介錄券)』(조선 초기) 등이 포함되어 있었다.
1964년 당시 국립중앙도서관은 해외 50개국, 130여개 도서관과 자료를 교환하였으며, 하루평균 2,000여명이 약 7,000부의 도서를 이용하였다. 1982년 인민대학습당이 개관하면서 흡수되었다. → 인민대학습당