1950年に演劇で活動していたところを千葉泰樹や藤本眞澄に認められ、千葉の監督作品『山のかなたに』(藤本プロ・新東宝)でデビューする。
1954年に東宝と専属契約し、千葉の監督作品に常連として出演するほか、岡本喜八、谷口千吉、本多猪四郎、須川栄三らの各監督にも多く起用され、特撮、時代劇、戦争映画などジャンルを問わずに出演する。コミカルな演技でバイブレイヤーとして活躍し、東宝の映画に数多く出演するなか、テレビドラマにも出演し、活動の幅を広げていった。
1970年代に入り、東宝俳優専属システムの崩壊を経て数多くの専属俳優が引退する中、中山もそれに伴って引退し、映画界から姿を消した。[独自研究?]