実父は渋沢栄一で[2]、妾との間に生まれたと言われる[3]。一説には、渋沢の13番目の子供ということで「じゅう3郎」というところから「重三郎」と名付けられた[4]。
一高を経て、東京帝国大学経済学部に入学。大学入学式のすぐその足で、ソビエトから帰国した佐野学歓迎会に出席、一挙検挙で辛うじて逃げ出した逸話は知る人の間では伝説となっている[5]。東大では土屋喬雄のゼミナールで日本経済史を専攻した[5]。
1932年に第一銀行に入行。行内ではエリートコースを歩み、本店営業部次長、業務部長兼秘書役を歴任。
1956年5月に取締役に選任され、業務部長、本店営業部長を委嘱。常務、専務、副頭取を経て、1966年3月に頭取に昇格した。
頭取としては第一銀行と三菱銀行の合併を目指した。当時の三菱銀行頭取である田実渉とは戦前からの親しい仲で、6歳年上の田実に長谷川が可愛がられていたという[8]。独断で合併を推進した長谷川には、行内を抑えきる絶対の自信があったようで、実際に1968年12月には合併契約書への調印にまでこぎつけるが、翌1969年1月1日に読売新聞がこの合併話をスクープしたのを契機に、会長の井上薫は、三菱銀行との合併に異を唱え、徹底的に反対運動を展開した。まず、古河・川崎グループ、石川島播磨重工業、神戸製鋼所、渋沢倉庫など古くからの融資先企業に根回しをして、「三菱に呑み込まれる」と外部から合併反対の声を上げさせた。次に支店長たちに反対の声を上げさせ、さらに総会屋をも煽動して取締役に圧力をかけさせた。こうして、わずか一週間で第一銀行は合併を撤回[4]。これら行内の混乱の責任を取る形で、長谷川は同年4月に取締役相談役に退き、井上が頭取に復帰した。この間、長谷川は1968年に全国銀行協会会長に就任したが、頭取辞任とほぼ同時に退いている。
1985年3月4日、肝硬変のために死去[10]。76歳没。