En , peu de temps après l'incident de Mukden, à Taonan dans le Nord-Ouest du Liaoning, Zhang, alors commandant de la 2ebrigade de défense de la province, prend le commandement des forces locales dont l'armée de restauration de Hsingan et déclare l'indépendance du district vis-à-vis de la Chine, en retour d'un envoi important de matériel militaire de l'armée impériale japonaise.
Zhang mène ensuite ses hommes au Nord pour attaquer le général Ma Zhanshan, récemment nommé gouvernement de la province du Heilungkiang. Peu après, il avance vers la capitale de Ma, Qiqihar, et reçoit sa reddition. Encouragé par le général Shigeru Honjō de l'armée japonaise du Guandong, Zhang avance prudemment pour accepter la reddition de Ma. Son avant-garde est alors attaquée par des troupes de Ma lors de la résistance au pont de la rivière Nen et est mise en déroute.
Après l'établissement de l'État du Mandchoukouo en , Zhang est renommé à la tête de ses anciennes troupes, maintenant renommées en armée de Taoliao. Il mène les troupes du Mandchoukouo contre les armées de volontaires anti-japonaises durant la pacification du Mandchoukouo et l'invasion japonaise de la province du Rehe lors de l'opération Nekka. Par la suite, il est nommé à la tête de la nouvelle armée de garde de Rehe. De à , il est gouverneur du Rehe. Il est promu général de l'armée du Mandchoukouo en 1936. En 1941, il prend sa retraite.
Après la chute du Mandchoukouo en 1945, Zhang se cache à Tianjin mais est découvert et exécuté pour trahison par la république populaire de Chine à Pékin en 1949.