富山県上新川郡山室村(現在の富山市)に武部尚志の四男として生まれ、同郡吏の金山彦一の養子となった。1904年(明治37年)、東京帝国大学法科大学英法科を卒業。同年、司法官試補となり、東京地方裁判所に勤務した。1906年(明治39年)、検事となり、東京地方裁判所予備検事、前橋地方裁判所検事、八王子区裁判所検事、東京区裁判所検事、東京地方裁判所検事、横浜地方裁判所検事正、東京控訴院検事、横浜地方裁判所検事正、大阪地方裁判所検事正、東京地方裁判所検事正、長崎控訴院検事長、大審院検事を歴任した。
1934年(昭和9年)には司法次官に就任した。その後、東京控訴院検事長、大阪控訴院検事長を務めた。