L'histoire du Sanctuaire Karakuni remonte au règne de l'empereur Yuryaku (fin du Ve siècle), lorsque Mononobe no Me no Omuraji y installa la divinité ancestrale Nigihayahi no Mikoto. Plus tard, un membre de sa famille, Mononobe no Karakuni no Muraji, protégea Sanctuaire Karakuni, qui prit alors le nom de « Sanctuaire Karakuni ». Durant l'époque Muromachi, Hatakeyama Motokuni, gardien de Kawachi, fit don de 200 koku et y installa la divinité Kasuga provenant du sanctuaire Kasuga Taisha de Nara. Plus tard, sous le règne d'Oda Nobunaga, le sanctuaire fut incendié lors d'une guerre, et en 1908 (Meiji 41), le sanctuaire Nagano voisin y fut également installé. De ce fait, les trois divinités vénérées dans ce sanctuaire sont Nigihayahi-no-Mikoto, ancêtre du clan Mononobe, et les dieux Kasuga Ameno-Koyane-no-Mikoto et Susanoo-no-Mikoto. La longue allée menant au sanctuaire est bordée d'arbres, et celui-ci figure parmi les « 100 sites verts les plus remarquables » de la préfecture.