福島県出身。父は元福島県議会議員の横山直二郎。国士舘大学政経学部卒業後、1987年（昭和62年）福島県議会議員初当選（連続当選4回）。自由民主党に所属し、県議会総務常任委員長等を歴任するも、自民党県議会会派の分裂騒動の責任を取って離党し、2003年（平成15年）の県議選には不出馬。同年末の浪江町長選に立候補し現職を大差で破るが、再選を目指した2007年（平成19年）12月の町長選では落選した。
2021年4月の春の叙勲で旭日小綬章を受章する[2]。
その後は横山建設取締役相談役を務めた。2026年3月30日、心筋梗塞のためいわき市の病院で死去した。75歳没[3]。死没日付で従五位に叙された[4]。
参議院議員の岩城光英、荒井広幸の盟友としても知られ、元福島県知事の佐藤栄佐久からは遠ざけられていた。
