Vainqueur de son premier titre national en 2009, il décroche sa première médaille internationale lors des Universiades d'été de Belgrade en se classant deuxième du concours avec un jet à 19,58 m. Il s'adjuge par la suite la médaille de bronze des Championnats d'Asie disputés en fin d'année à Canton (19,15 m)[1], puis améliore quelques jours plus tard le record de Chine de la discipline en atteignant la marque de 20,41 m à l'occasion des Jeux de l'Asie de l'Est, à Hong Kong, décrochant ainsi son premier titre international majeur[2].
En début de saison 2010, Zhang Jun porte le record de Chine en salle à 19,90 m. Il participe aux Championnats du monde en salle, à Doha, mais est éliminé au stade des qualifications. Fin novembre, à Canton, il décroche la médaille d'argent des Jeux asiatiques (19,59 m), derrière le Saoudien Sultan Alhabashi[3]. En 2011, le Chinois monte sur la deuxième marche du podium des Championnats d'Asie de Kobé avec un jet à 19,77 m, s'inclinant finalement face au Taïwanais Chang Ming-Huang[4].
Zhang Jun établit un nouveau record d'Asie en salle en début de saison 2012 en signant la marque de 20,16 m le à Nankin, devenant à cette occasion le premier athlète chinois à dépasser la limite des vingt mètres en salle[5].