明治維新の新政府は、発足の当初から身分の隔たりなく義務教育を実施する意欲をもち、明治5年（1872年）8月に学制を発布して、翌1873年（明治6年）に全国に小学校を設立した。この流れを意識しつつ、学制に先行して義務教育の小学校を設けた地域があり、東京、京都のほか、仙台もその一つであった。
明治5年（1872年）2月に西郡貫一郎が宮城県参事（現在の県知事に相当）に出した建議により、住民から経費を徴収して設置された[2]。6月8日に宮城県士族の男沢抱一 を読書教授、同じく石田秋水を習字教授、南鍛冶町商（商人）の若生清三郎を算術教授に任命した[3]。このうち男沢は仙台藩の藩校（養賢堂）の教授役だった人[4]、若生清三郎は町人代として南鍛冶町をまとめる役目であった[5]。学校の場所は南町の星久四郎の私宅で、隣の六区にあった[3]。
第一大区小六区小学校とともに、県内・市内の他地域に先行しての開校となった。この大区、小区は大区小区制によるもので、後の学制で定められた大学区、小学区ではない。小六区と小七区は陸羽街道（奥州街道）沿いに江戸時代の町人の居住地を割り出し、芭蕉の辻より南を六区、北を七区としていた[6]。二つの学校は、共立小学校、あるいは共立社小学校といった[7]。官立ではなく、私塾でもなく、共同で設立した、といった意味であろう。
ところが住民からの費用徴収がうまくいかず、発足した8月から給与支払いが遅れた[8]。この8月に国が学制を発布したことを理由にして、宮城県は10月5日に二つの小学校の廃止を決定した[8]。解雇された三人のうち男沢と石田は翌年以降に教員になった[9]。