La date exacte de sa fondation est incertaine, mais il s'agit d'un ancien sanctuaire que l'on dit avoir été construit à cet endroit par l'empereur Jimmu, qui priait pour le succès de son expédition vers l'est. La deuxième année du règne de l'empereur Chuai (200), lors de la visite de l'impératrice Jingu, une source d'eau claire jaillit soudainement. Ravie, l'impératrice la fit ériger en source sacrée, donnant ainsi au lieu le nom d'« Izumi ». On raconte également que Toyotomi Hideyoshi fit transporter l'eau de la source d'Izumi jusqu'au château d'Osaka et l'utilisa lors de la cérémonie du thé. La deuxième année du règne de Reiki (716), lorsque le quartier d'Izumi no Gen fut établi et que la région devint un centre politique important, le sanctuaire Izumi Kuni Sosha fut construit à côté du sanctuaire Izumi Inoue, abritant les cinq sanctuaires d'Izumi (les cinq grandes divinités : Otori, Izumianashi, Hijiri, Tsumikawa et Hinone). Au nord du hall principal du sanctuaire Izumi Inoue se trouve le bâtiment principal du sanctuaire Gosha Sosha, qui a été reconstruit par Toyotomi Hideyori en 1605 et est désigné comme bien culturel important du Japon.