大山積神社の歴史は、1691年の別子銅山開坑に始まる。同時期に大三島の大山祇神社より勧請・創建された[2]。全国の鉱山に勧請された鉱山型大山祇神社(三島・大山祇信仰)の中でも古い社の一つであり、大三島の大山祇神社発行の資料によると、1605年の佐渡金山の大山祇神社に次いで創建が早い[2]。鉱夫が入抗する際には、必ず坑口に奉られる御祭神を拝礼したという[1]。
当初は別子山村足谷の縁起の端に位置していたが、1893年に足谷の目出度町に遷座。1927年には新居浜市内に移転し、内宮神社境内に仮遷座のち、1928年に現在地にと、採掘が海側に移動するにつれ遷座していった[1]。現在地に移った翌年には、磯浦町にあった住友グループ各事業の守護神も当社に移された[1]。
1973年に別子銅山は閉山するが、現在も住友グループ各社により祭祀が行われている。新年祭や例大祭は新居浜在所のグループ各社の参列が習わしである[1]。所有・管理は別子銅山を経営し、現在でも多数の鉱山を操業する住友金属鉱山が行っており、本社屋上や各事業所にも大山積神社が勧請されている[3]。山中には住友林業系の祠も点在している。
1975年、住友グループ21社により境内に別子銅山記念館が整備。
1990年、住友グループにより別子開坑300年記念式典が実施。