La 3edivision est formée à Nagoya en comme garnison de Nagoya (名古屋鎮台, Nagoya chindai?), l'un des six commandements régionaux créés dans la nouvelle armée impériale japonaise. La garnison de Nagoya est responsable de la région centrale du Japon connue sous le nom de Chūbu et s'étirant de la préfecture d'Aichi à la préfecture d'Ishikawa. Sur les recommandations du conseiller étranger allemand Jacob Meckel, les six commandements régionaux sont transformés en divisions lors d'une réorganisation de l'armée le .
Le , la 3edivision est subordonnée à la 11earmée et est l'une des divisions assignées à l'armée expéditionnaire japonaise de Chine basée à Nankin. En tant que l'une des plus puissantes unités, la 3edivision participe à presque toutes les batailles du centre de la Chine. Durant la campagne du Zhejiang-Jiangxi(en), elle est convertie en division triangulaire le . Elle sert temporairement plus tard comme quartier-général et division de garnison de la province du Zhejiang.