天保7年（1836年）5月8日、陸奥国棚倉藩士・平井丹兵衛の次男として生まれる。通称は繁次郎。幼少より数学を好み、和算家・長谷川善左衛門に入門して高弟となり、『算法新書』を著した。
幕府鉄砲方の三浦新十郎に従って長崎に赴き、長崎海軍伝習所に入所する。伝習所ではオランダ人教師ハーヒェスに認められ、安政3年（1856年）にオランダへ私費留学し、アムステルダムの海軍予備校で学んだ。同地で海軍大尉適任証書を受け、さらに英・米・仏を巡って軍事・工学を修得し、安政4年（1857年）に帰国した。
帰国後は藩に福村家の養子として起用した。藩の兵制を西洋銃中心へと改革した。江戸藩邸では数学・測量学・砲術を教授し、諸藩士の来学を集めたほか、藩のため砲兵隊を編成し大砲鋳造にも関与した。戊辰戦争では棚倉藩に従って出陣し、戦功を挙げている。
維新後の明治2年（1869年）、海軍練習所に出仕。砲術・測量・数学教育に従事する傍ら、水雷術の研究を開始し、日本における本格的水雷研究の出発点をなした。明治6年（1873年）には少佐に進級する。
同年、米国視察中に水雷製造の実態を知った川村純義の判断により、小林翹大尉とともに、海軍御雇外国人教師ダグラス少佐の下で水雷伝習に従事した。明治7年（1874年）9月20日、水雷製造局が設置されると、兵学寮教授科所属のまま水雷製造局兼務を命じられたが、水雷が極秘兵器とされたため、その実態はほとんど記録に残らず、同局も明治8年（1875年）2月に廃止されている。
明治10年（1877年）、西南戦争に際して筑波艦副長として従軍し、中佐に進級したが、戦地鹿児島において病を得る。部下の制止を振り切って勤務を続け、同年8月16日、鹿児島にて死去した。享年42。
また、福村の教育は後進にも影響を与え、安積疏水事業などで知られる伊藤直記は長年福村に学び、弟子の橋本啓三郎は勤王家・測量家として活動した。