住友家族從江戶時代開始就把大阪作為其企業發展的根據地，明治37年（1904年），住友家族的第15代繼承人住友吉左衛門友純捐贈了圖書館的建造費和圖書採購費，從而建立了本圖書館。當時，其名稱為"大阪圖書館"，後來改名為"大阪府立中之島圖書館"。在大正11年（1922年），圖書館用捐贈金擴建了主館的左右兩翼（國家重要文化財產）。三層的石砌結構和銅葺圓形屋頂使這幢建築顯得雄偉莊嚴，負責建築的是住友臨時建築部的建築家野口孫市和日高胖。在中之島圖書館裡，收藏了許多古文書和關於大阪的文獻以及商業方面圖書。加之本館坐落於安靜而便利的地段，因此，即使在它建成一百多年以後的今天，它仍然受到了眾多研究者和愛書人士的青睞。