文政10年（1827年）、西国郡代の窪田鎮勝の子として誕生。安政4年6月、講武所調方出役軍制改正御用に任じられ、安政5年10月に外国奉行支配書物御用出役、文久元年2月には神奈川奉行支配調役並出役、12月には同支配調役並、文久3年2月には同支配調役および定番役頭取。
子母沢寛の『新選組始末記』では、4月13日に清河八郎を殺した6人の刺客の中に佐々木只三郎と共に窪田（久保田）泉太郎の名前が見える。
元治元年7月25日、同頭取から頭取取締へ昇進、約1,500人規模の洋式軍隊を英仏横浜駐屯軍の駐在する横浜で指揮した。現地徴集の農兵などを洋式歩兵に仕立て、また駐留するイギリス第20連隊からも調練を受け、合同演習もこなせる錬度に仕上げた。古屋佐久左衛門と共にイギリスの「歩兵操練・図解」を翻訳し、西洋式歩兵の編成を進めていた。鎌倉事件では犯人捕縛に尽力したことで、駐留イギリス軍からも日本側司令官として高く評価された。慶応2年5月4日に鉄砲玉薬奉行に転出した。慶応3年10月18日に歩兵頭並、12月に進出先の大坂で歩兵頭となり備前守に昇進した。
慶応4年1月3日、鳥羽・伏見の戦いでは、幕府陸軍を指揮して幕府歩兵隊の第12連隊の隊長として参陣。幕府軍の劣勢を跳ね返すべく、同じく歩兵連隊長の佐久間信久や会津藩兵、土方歳三率いる新選組の兵と共に奮戦するが重傷を負い、慶応4年（1868年）に大坂に下る船の中で死去。享年41。