1894年（明治27年）に清国留学から帰国した宮島大八が、1895年（明治28年）5月、東京の平河町に開いた詠帰舎が前身である。1898年（明治31年）6月に善隣書院と改称。善隣書院の建学理念は、東洋の学問と西洋の学問の融合の上に新しいアジアを創るべきであり、そのために日中の学生がともに学ぶ場を創る、というものであった。この建学理念に基づき、善隣書院は中国語・漢学と書道を教える学校として、19世紀末から21世紀の現在に至り、多数の卒業生を出してきた。
1904年（明治37年）8月に刊行した、中国語教科書『官話急就篇』は版を重ね、戦前の代表的な中国語教科書となった[1]。