嘉永2年(1849年)、鹿児島県士族として生まれる。測量術に優れた技量を持ち、明治6年(1873年)、鈴木大三郎・大山綱方らとともに海軍少尉補に任じられた。その後昇進を重ね、明治9年頃には正八位となっている。
明治10年(1877年)の西南戦争では軍艦清輝に乗り組み従軍。戦後の明治12年頃に海軍中尉へ進み、勲六等を叙せられた。明治16年(1883年)11月5日には上村正之丞・富岡定恭らとともに海軍大尉に進級し、正七位に叙せられている。
明治18年(1885年)11月19日には勲五等を受章。翌明治19年(1886年)、兵器会議議員に任命され、同年、清国との将来的衝突を見据えた戦略検討の一環として、海軍次官樺山資紀の命を受け対馬へ派遣された。神宮司は浅茅湾に臨む竹敷村を水雷戦隊基地として最適と判断し報告し、この進言を受けて大山巌は同年11月30日、警備隊条例を公布し対馬警備隊を設置した。
明治20年(1887年)10月25日、海軍少佐に進級。同年、艦攻局兵器課課僚に補され、前職を兼務した。明治21年(1888年)4月28日には英・仏・独へ差遣され、造兵・兵器分野の調査研究に従事。明治23年(1890年)には大佐補欠として造兵監督官を命じられた。
明治25年(1892年)6月3日、呉鎮守府兵器部主幹兼武庫主管に任ぜられ、その後、横須賀水雷隊攻撃部長に転じた。明治27年(1894年)3月14日、横須賀水雷隊において操練中、自ら号令を発していた最中に突然大量の吐血を起こし倒れ、そのまま帰らず死去。享年46。特旨をもって正六位に進み、勲四等を追贈された。墓所は青山霊園。