Zapustas est de nationalité lituanienne mais naît à Liepāja, une ville située en Lettonie qui fait à l'époque partie de l'Empire de Russie, avant que la Lettonie et la Lituanie ne deviennent des pays indépendants[1]. Une certaine confusion existe sur l'origine et l'âge de Zapustas durant sa carrière sportive, puisqu'il ment à l'époque en disant avoir vu le jour à Boston aux États-Unis en 1911[1].
Il s'établit à Randolph dans le Massachusetts où il enseigne les mathématiques et la science à l'école secondaire locale, la Stetson High School, tout en étant entraîneur de baseball, de football américain et de basket-ball. Il est directeur athlétique de Stetson High pendant 25 ans, jusqu'à sa retraite en 1977. Il est aussi durant 40 ans directeur des activités récréatives (Director of Recreation) à la ville de Randolph, jusqu'en 1991. En 1998, la ville lui rend hommage en nommant la patinoire locale le Joseph J. Zapustas Arena[6].
