寛永2年(1625年)、加賀藩家老横山康玄の子として金沢に生まれる。正保2年(1645年)、父康玄が病死、祖父横山長知の隠居により家督と2万4000石の知行を相続する。正保4年(1647年)、藩主前田綱紀に3000石を加増され、年寄、人持組頭となる。万治元年(1658年)小松城代となる。翌年前田直之と交代する。万治3年(1660年)、藩主綱紀の命で江戸に下向し勤務する。延宝7年(1679年)6月13日、病により、京都に療養に向かう旅の途中で死去する。享年55。墓所は石川県金沢市野田山墓地。家督は次男の玄位が相続した。