架橋前は付近に「小台の渡し（尾久の渡しとも称された）」があり、江戸時代より江北・西新井・草加方面への交通の要所として賑わっていた。西新井大師や六阿弥陀のひとつである沼田の恵明寺に詣でる人々も多く利用した。小台橋が最初に架橋されたのは昭和8年（1933年）で、関東大震災後の都市復興事業により架橋された。いわゆる「震災復興橋梁」には数えられないが、復興都市計画に基づいて架橋されたものである。その後老朽化によって、平成4年（1992年）に現在の橋に架け替えられた。架け替え工事にあたり既存の橋の下流側に仮設橋を設置、その後に本橋部分を撤去し新たな橋を設けるという時間と費用の掛かる方法が用いられた。その複雑な工事によって造成された部分を活かして現在の小台橋の端部分の歩道は広いテラス状になっている。
