以色列国家图书馆是希伯来大学的中央图书馆，收集所有出版物并发行书目。同时，它还收集世界各地与以色列有关的所有出版物，并有选择地收集中东出版物;并负责编辑以色列图书馆的期刊联合目录。
20世纪70年代，耶路撒冷已经有了电报、希伯来文印刷、希伯来文报纸和现代教育和研究，但没有图书馆。经过犹太人的多次酝酿，犹太国家和大学图书馆于1892年推出，这是由圣约之子耶路撒冷建立的米德拉希·阿瓦瓦内尔图书馆。由于锡安运动和著名的波兰学者约瑟夫·沙赞诺维奇博士，沙赞诺维奇从1890年访问耶路撒冷，他致力于建立犹太国家图书馆，并将一切都贡献给了图书馆。他把自己的私人图书捐赠给图书馆，收集了2万本书。这部分书籍是图书馆前20年的主要收藏。
在第一次世界大战结束时，图书馆有两个功能：犹太国家图书馆和耶路撒冷犹太居民的公共图书馆。在1920年被移交给世界锡安联合会成立希伯来大学后，它仍然保存了这两个功能。1925年重新开放时，它改为现在的名称，并增加了新的功能。成为大学博物馆后，图书馆发展迅速。首先，有第一位全职馆长胡戈·贝格曼博士。在他搬到巴勒斯坦之前，他是布拉格大学图书馆馆长。1933年，该博物馆正式成为国家博物馆，隶属于耶路撒冷希伯来大学，比以色列建国早15年。国际联盟的托管政府要求当地出版商向图书馆支付两份出版物，该法令由以色列政府继承。
在第二次世界大战中，以色列在中华人民共和国成立和中东战争后建造了一个新的博物馆。许多以色列国内外捐赠书籍的人也从德国收到了大量犹太人的书籍。由于纳粹时期的迫害，这部分书籍已成为无主财产。博物馆进行了博物馆的国际借贷，并成为国际图形联盟的成员。
图书馆出版了《Kiryatsefer》，报道了以色列和犹太人的所有出版物，以及约旦和国外出版的以色列书目，包括书评、书目研究和收藏文章的介绍。还有《犹太研究文章索引》期刊文献书目。
由于大多数犹太人生活在以色列以外，图书馆应该尽最大努力收集普通书籍、期刊、手稿、文献、录音和图片，以反映和代表犹太民族的历史和文化，以及摇篮书、好书和手稿。它收集各种犹太语言-希伯来语、意大利语、拉迪诺语等——不同地方和时代的信息。为了同样的目的，图书馆还收集了大量犹太人居住和生活在国家的作品。注意收集犹太研究书目和印刷发明以来希伯来文书目的可追溯性书目。