Jerome Williams est un choix de première ronde des Giants de San Francisco (39ejoueur sélectionné au total cette année-là) en 1999. Il commence sa carrière dans le baseball majeur avec San Francisco le . Il joue pour les Giants jusqu'en 2005. Le lanceur partant droitier effectue 21 départs pour San Francisco à sa saison recrue et affiche une brillante moyenne de points mérités de 3,30 en 131 manches au monticule. Il remporte 7 victoires contre 5 défaites, lance deux matchs complets dont un blanchissage. La saison suivante, en 2004, il gagne 10 parties contre 7 revers en 22 départs malgré une moyenne de points mérités à la hausse (4,24).
Cubs de Chicago
Le , San Francisco échange Williams et le lanceur droitier David Aardsma aux Cubs de Chicago en retour d'un autre lanceur droitier, LaTroy Hawkins. Williams n'avait que quatre parties jouées pour les Giants au moment de l'échange. Il complète l'année avec une fiche de 6 gains et 10 défaites pour San Francisco et Chicago avec une moyenne de points mérités de 4,26 en 122 manches et deux tiers lancées au cours de 22 parties.
Agent libre après la saison 2006, il se joint pour un an aux Nationals de Washington. Il effectue seulement 6 départs et encaisse 5 défaites sans remporter une seule partie. Sa moyenne de points mérités est très élevée: 7,20 en 30 manches au monticule. Encore une fois, il passe la majorité de l'année dans les mineures[1].
En juin 2011, alors qu'il joue une fois de plus dans le baseball indépendant (pour les Lancaster Barnstormers de l'Atlantic League[2]), Williams signe un contrat avec les Angels de Los Angeles. D'abord affecté aux Bees de Salt Lake, le club-école des Angels dans la Ligue de la côte du Pacifique, il est rappelé en août par le grand club. Le [3], Williams effectue son retour dans le baseball majeur par une présence comme lanceur de relève pour les Angels: c'est la première fois qu'il joue au plus haut niveau depuis le avec les Nationals[4]. Lanceur partant à sa deuxième partie pour les Angels le face aux Orioles de Baltimore, il remporte sa première victoire dans les majeures depuis un gain survenu près de 6 ans plus tôt, le alors qu'il évoluait pour les Cubs[5]. Williams fait bien dans cette fin de saison chez les Angels: il effectue 6 départs et ajoute 4 sorties en relève, remportant 4 matchs sans encaisser de défaite. Sa moyenne de points mérités s'élève à 3,68 en 44 manches lancées.
À l'ouverture de la saison 2012 des Angels, Williams est sur la liste des joueurs blessés[6] mais rejoint l'équipe comme cinquième lanceur partant dans les jours qui suivent[7] et commence sa saison le contre les Yankees de New York[8]. Il lance dans 32 parties, dont 15 départs, en 2012. Sa moyenne de points mérités s'élève à 4,58 en 137 manches et deux tiers avec 6 victoires et 8 défaites.
Il enregistre 107 retraits sur des prises en 2013, un sommet en carrière. Il entreprend son plus grand nombre de matchs en carrière, soit 25 départs, auxquels il ajoute 12 sorties en relève. Sa moyenne s'élève à 4,57 en 169 manches et un tiers lancées, avec 9 victoires et 10 défaites.
Astros de Houston
Williams est utilisé comme lanceur de relève par les Astros de Houston en première moitié de saison 2014: il lance 47 manches et deux tiers en 26 sorties, mais sa moyenne de points mérités s'élève à 6,04 avec une seule victoire et 4 défaites.
Rangers du Texas
Williams rejoint les Rangers du Texas en . En deux départs et 10 manches lancées, il accorde 11 points pour une moyenne de points mérités de 9,90 mais trouve le moyen de remporter une victoire, contre une défaite.
