根据《上海图书馆机构职能编制规定》（沪委编委〔2023〕18号），上海图书馆主要职责和内设机构如下：
上海图书馆主要职责
（一）落实公共图书馆事业发展、科学技术情报研究、古籍保护工作要求，参与制定和实施本市相关规划、工作计划。
（二）收集、整理、保存、研究国内外文献信息，统筹各类场馆面向公众提供查询、检索、借阅、阅览等服务，以及为特定读者和用户提供翻译、咨询、信息技术加工等专业服务。
（三）组织开展阅读推广等社会教育活动，开发文化创意产品及服务，促进全民阅读。
（四）开展科学技术情报研究，开发信息资源，提供科技、文化等领域参考信息和决策咨询服务。
（五）组织本市有关单位参与古籍普查、鉴定、修复、培训工作。加强馆藏古籍保护，推进古籍整理、出版和研究利用，传承和弘扬优秀传统文化。
（六）组织开展图书馆学、科学技术情报等领域学术研究，承担上海市图书馆学会、上海市科学技术情报学会日常工作。
（七）开展国内、国际图书馆界合作交流，参与国际图联等国内外学术组织活动，促进文献信息共建共享。
（八）完成市委、市政府交办的其他任务。
上海图书馆内设机构
（一）党政办公室。
（二）干部人事处。
（三）党群工作处。
（四）综合业务处。
（五）财务处。
（六）研究室。
（七）协调辅导处。
（八）合作交流处。
（九）事业发展处。
（十）运行保障处。
此外，上海图书馆设置13个专业技术机构。