明治 37 年（1904）、江戸時代から大阪を本拠地として事業を続けてきた住友家の第 15 代住友吉左衞門友純（ともいと）が図書館建物と図書購入資金を寄付したことによって建設された図書館。
当初は「大阪図書館」という名称だったが、後に「大阪府立中之島図書館」に改名。大正 11年（1922）には、左右両翼部分も住友家の寄付により増築。昭和 49 年（1974）には本館とともに国の重要文化財に指定されている。
石造り三層、銅葺きのドームがそびえる重厚な建物で、建築を担当したのは、住友臨時建築部の建築家・野口孫市と日高胖。中之島図書館は、大阪に関係する資料と古典籍、ビジネス関係の書籍に特化している。
静かで便利な立地条件もあって、創建 120 年以上を経た今もなお、研究者や本を愛する人たちに親しまれている。