Joe Borowski évolue pour l'école secondaire Marist High School à Bayonne (New Jersey), dans les équipes de baseball et de football américain. Il brille dans ces deux disciplines et est d'ailleurs sélectionné en équipe All-America et en sélection All-State en baseball et football américain lors de ces deux dernières années d'école secondaire (1988 et 1989).
Chez les Indians, il tient le rôle de stoppeur, le lanceur qui conclut les parties. Lors de la saison 2007, il participe à 69 parties jouées pour 4 victoires, 5 défaites, 45 sauvetages et une moyenne de points mérités de 5,07. Il est libéré de son contrat par les Indians en .
