1895年に日本により台湾統治が開始されると、日本政府は積極的な台湾教育政策を実施した。芝山巌学堂（中国語版）における六氏先生事件後も台湾総督府は日本語普及を推進した。台湾総督府初代学務部長の伊沢修二は『台湾教育意見書』を発表し、日本による台湾統治での最重要政策として日本語教育を表明し、これに従って総督府は具体的な計画を策定した。
1896年、台湾総督府は『国語伝習所規則』を発布、全台湾における日本語教育の具体的な内容が策定された。台湾の主要都市に14ヶ所の国語伝習所を設置し、その周辺地域に分教場を設置するというものであり、西洋教育方式により国語（日本語）を初め唱歌、算数などの教育が実施された。
伝習所開校初期は台湾人の就学率は高くなかったが、総督府は無償教育政策を実施し、また台湾人の日常生活の中でも日本語を必要とする場面が多くなり、就学児童は年々増加した。1898年に公学校に改編されるまで存続した。植民地政策を実施するための政策ではあったが、台湾民衆に広く教育を行なう嚆矢であり、台湾教育史での意義は大きいものと評価されている。