1670年代初頭、高田郡では災害や疫病の流行、凶作により餓死者が続出した。その際に、吉田の豪商である竹野屋の吉田与三郎(本名は河野与三郎といい、伊予河野氏の一門の子孫である[3]。)が生活困窮者を老若男女問わず雇い、裏庭に庭園を建設させた。長期間にわたり人々を雇用するためにこの庭園の池の建設には鍬などを使わせず、竹べらを用いて20センチほどのザル1杯分を掘るごとに7文の賃金を支払った[3]。このことからのちに人々から「へらほりの池」と呼ばれるようになった[2][4][5]。池は3700平方メートル近くあり、畳ほどの大きさの巨石もふんだんに使われ地方の名園として知られた[6]。庭園の一角に建てられた観古亭は藩主巡行の際の休息所としても使われた[2]。