霊亀二年(716年)、郡上郡島馬場村(現・郡上市大和町島)の7人の子供が突然憑依され、狂ったようになる。人々が尋ねると「我々は七代天神の霊である。この地で我々を尊崇したならば永く国家を守り民を安らかにしよう。このことを天皇に奏上し、神社を創立するように。」と告げると子供たちは一時的に息絶えるも、蘇生した。村人は朝廷に直ちに奏上し、勅命を受けて養老二年(718年)に創建したという[2]。
創建時は山頂に鎮座していたが、後に現在地に移転する。
1971年(昭和46年)、過疎化による集落再編成により集団離村した大和村大字内ヶ谷(現・郡上市大和町内ヶ谷)の氏神の白山神社を合祀する。