1928年、三重県阿山郡伊賀町（現・伊賀市）で生まれた。佛教専門学校（現・佛教大学）を卒業し、龍谷大学大学院文学研究科に進んだ。1956年に修了。
1979年、学位論文『浄土教と如来蔵思想の研究』を佛教大学に提出して文学博士号を取得[2]。
宗門にあっては、京都府京都市伏見区の三縁寺住職。1999年11月、浄土宗の宗務総長に選ばれた（2003年11月再選）。2006年12月に辞任。
2014年2月7日、肝臓内胆管がんのため死去[3]。85歳没。歿日付で従四位。また、2017年5月、紫野キャンパス礼拝堂が落成し、「水谷幸正記念館」の名称が与えられている[4][5]。
