上総国長生郡東村大字久原(現在の長南町)生まれ。生年は文久3年とも[3][4]。父は清湖と号した漢学者。幼にして丹後田辺藩の家臣・嶺田楓江の門に入って漢籍を学び、後上京して慶應義塾に学ぶ。
『日本』の創刊と共に記者となり、漢文学を担当し、三浦梧楼が朝鮮公使として京城に赴任した際、特派員として朝鮮に渡る[5]。閔妃事件の際に同志と共に王宮に潜入したが、直接暗殺には加わらずに、逆に王宮内にいた米国人を避難のために助けたところが、ロシア公使ヴェーバーに見つかり、退韓命令を受けた。獄中で病を患い、放免後に谷干城の熱烈な支援の下、千葉県から衆議院選挙に立候補したが落選。以後は在野に下って神鞭知常と行動を共にし、「同仁会」の理事として対外問題を論じた[5]。
1917年6月28日(29日とも)に持病の腎臓炎で死去し、7月2日に谷中斎場で葬儀が営まれた[6]。
志賀重昂は雑誌『日本人』に連載した「初対面録」で、山田を「肥大漢、真個の好人、平居恬退、事に臨みて慷慨」と評している[7]。