元は神宮教院教会所である。
1881年(明治14年)12月、神宮教院第十七教区本部教会所として創建。1899年(明治32年)の神宮教の解散に伴い財団法人神宮奉斎会が設立されると神宮奉斎会大垣本部に改称する(後に神宮奉斎会岐阜地方本部に改称)。
1945年(昭和20年)7月29日の大垣空襲で社殿を焼失。
戦後、神道指令に伴い、1946年(昭和21年)1月23日、大日本神祇会、皇典講究所、神宮奉斎会の3団体が中心となり、神社本庁が設立される。神宮奉斎会大垣本部は同年11月27日に宗教法人設立登記を行い、同時に大垣大神宮に改称する。