《图书馆杂志》由上海市图书馆学会与上海图书馆合办，1982年1月创刊。初为季刊，1987 年起改为双月刊，1999年起改为月刊。1997年起，每年增发30万字的“理论学术年刊”，2003年起“年刊”采用书号方式正式出版。
《图书馆杂志》刊名由著名古籍版本目录学家、书法家顾廷龙先生题写。封面由著名艺术家钱君匋设计，并由其学生谷华协助细部绘制。对称斜列周代金文“图书”二字，每字环以早期青铜器上嵌填族徽类所用之亚字型图案。整体设计显示了庄重淳朴的古典美与推陈出新的时代感 。
在《图书馆杂志》二十四年来的编辑出版历程中，坚持站在学科发展的前沿，坚持理论联系实践的办刊宗旨，形成了前瞻探索与现实研究并重，理论学术与实践操作共举的特色。比较注重图书馆实际工作者的需求，为实践范畴的讨论、交流提供了较多的篇幅。因而在图书馆专业界受到普遍欢迎 ，邮发量始终位居国内同类刊物的首位。
2000年，《图书馆杂志》经由国家新闻出版署评定、公示后，确定进入“中国期刊方阵”；1992年以来，《图书馆杂志》连续四次列名“全国中文核心期刊”行列；在国内外各个组织、机构的组织的多种核心、优秀期刊评比中，《图书馆杂志》在同类专业学术期刊中也一直名列前矛。