คำว่า "ทารุมิ" ในชื่อศาลเจ้าทารุมิ แปลว่า "น้ำที่ไหลลงมาจากหน้าผา" พื้นที่ศาลเจ้าตั้งอยู่ทางตอนใต้สุดของเนินเขาเซนริ มีลักษณะทางภูมิประเทศเป็นพื้นที่ที่มีน้ำพุผุดขึ้นมาจากเนินเขา และศาลเจ้าทารุมิโนะคามิ ซึ่งตั้งอยู่ในที่นี้ ได้รับการเคารพบูชาในฐานะเทพเจ้าแห่งน้ำมายาวนาน ในรัชสมัยจักรพรรดิโคโตกุ โทโยกิอิริฮิโกะโนะมิโคโตะ (ผู้สืบเชื้อสายมาจากโทโยกิอิริฮิโกะโนะมิโคโตะ) เทพประจำศาลเจ้าอะริมะโนะคิมิ ผู้ครองแคว้น ได้สร้างคลองส่งน้ำจากพื้นที่ไปยังศาลเจ้านานิวะ นาการะ โทโยซากิ ซึ่งกำลังประสบภัยแล้ง เพื่อเป็นการยกย่องความสำเร็จนี้ ท่านจึงได้รับนามสกุล "ทารุมิโนะคิมิ" และก่อตั้งศาลเจ้าทารุมิขึ้น