明治維新の新政府は、発足の当初から身分の隔たりなく義務教育を実施する意欲をもち、明治5年（1872年）8月に学制を発布して、翌1873年（明治6年）に全国に小学校を設立した。この流れを意識しつつ、学制に先行して義務教育の小学校を設けた地域があり、東京、京都のほか、仙台もその一つであった。
明治5年（1872年）2月に西郡貫一郎が宮城県参事（現在の県知事に相当）に出した建議により、住民から経費を徴収して設置された[2]。6月8日に宮城県士族の黒沢翕を読書教授、同じく岡徳助を習字教授、国分町商（商人）の伊藤栄助を算術教授として任命した[3]。場所は南鍛冶町の泰心院という寺院であった[3]。
第一大区小七区小学校とともに、県内・市内の他地域に先行しての開校となった。この大区、小区は大区小区制によるもので、後の学制で定められた大学区、小学区ではない。小六区と小七区は陸羽街道（奥州街道）沿いに江戸時代の町人の居住地を割り出し、芭蕉の辻より南を六区、北を七区としていた[4]。二つの学校は、共立小学校、あるいは共立社小学校といった[5]。官立ではなく、私塾でもなく、共同で設立した、といった意味であろう。
ところが住民からの費用徴収がうまくいかず、発足した8月から給与支払いが遅れた[6]。この8月に国が学制を発布したことを理由にして、宮城県は10月5日に二つの小学校の廃止を決定した[6]。解雇された三人は、翌年に学制による小学校の教員になった[7]。