山田馬次郎は、土佐藩山田家の出で、祖を山田去暦とする家系に属し、山田清道（孫右衛門）の次男として生まれ、馬廻・山田清粛（八蔵）の弟にあたる。若いころから江戸に遊学し、「西洋好き」と評された人物であった。
万延元年（1860年）、遣米使節派遣にあたり、各藩から少壮有為の者が選抜された際、山田馬次郎は参政・吉田東洋の推挙を受けて随行を命じられた。『佐々木高行日記』には「山田は洋好なり」と記され、勤王家の谷嶹太郎を同行させるべきとの声もあったが採用されなかったという。
『岡崎菊衛門筆記』では山田馬次郎は当初栗島彦八郎の随員とされるが、その後成瀬正典の随員に変更されたと推測され、随行時の年齢は30歳であった。
遣米使節としての見聞は『山田馬次郎遣米紀行』として残されるが、サンフランシスコ以後の渡航の記録は現存せず所在不明となっている。帰国後、文久元年4月9日に洋学修業生として江戸で学び、御雇中3人扶持・米三十石を支給された。文久2年8月23日には江戸鍛冶橋藩邸で山内容堂に謁見し、『寺内左膳日記』は山田から「外国には陸地を走る船（鉄道）がある」と説明を受けたと記録している。
帰国後、土佐ではその海外談話の奇異さに驚く者も多く、池田善之助らはそれを神話のように受け取り、賽銭を投じて跪拝したという逸話が伝わる。土佐藩士の中で最初の海外派遣の人物とされる。
また、万延元年遣米使節がサンフランシスコ来着の翌日に望見した世界最大級の鉄道客船「グレート・イースタン」の図は、山田馬次郎が持参したものと伝わる。
当時は攘夷論が盛んな時代であり、その見聞を十分に発表できぬまま、山田馬次郎は文久3年11月30日に江戸で病死した。享年32または33。墓所は高知市塩屋崎町の筆山南斜面にあり、家祖去暦から父清道までの墓が並ぶ。兄清粛の墓は東へ60mほどの場所にあり、墓所内にある山田馬次郎清樹の墓碑には「文久2年11月30日没」とあり、没年に1年の差異がみられる。