Gordon s'engage au sein du Parti démocrate du Tennessee, dont il devient directeur exécutif (1979) puis président (1981-83)[1].
En 1984, Gordon est élu à la Chambre des représentants des États-Unis en rassemblant 63% des voix face au républicain Joe Simpkins[2]. Il succède au démocrate Al Gore[3]. Au cours des trois élections suivantes, il est réélu avec plus de deux tiers des voix. En 1992, il n'est réélu qu'avec 56,6% suffrages devant Marsha Blackburn. Lors de la vague républicaine de 1994, il remporte un nouveau mandat d'extrême justesse avec 50,6% des voix face à Steve Gill[2]. À partir de cette époque, Gordon commence à voter de manière plus conservatrice[3].
Le représentant est reconduit avec environ 54,5% des suffrages en 1996 (face à Gill) et en 1998[2]. À partir de 2000, il est réélu tous les deux ans avec plus de 62% des bulletins exprimés[2] dans une circonscription pourtant favorable aux républicains (George W. Bush et John McCain l'ont remportée avec plus de 60% des voix en 2004 et 2008)[4].
Gordon préside la commission sur la science et la technologie lors des 110e et 111econgrès[1]. En , il annonce qu'il ne sera pas candidat à un nouveau mandat en novembre 2010, souhaitant consacrer davantage de temps à sa famille[5]. Des sondages républicains le donnent alors en danger après ses votes critiqués en faveur de l'Obamacare et du marché des droits à polluer[4].
Après son retrait de la vie politique, Gordon rejoint le cabinet d'avocats K&L Gates à Washington pour traiter des questions d'énergie[6].
Positions politiques
À la Chambre des représentants, Gordon est membre de la Blue Dog Coalition[3], regroupant les démocrates conservateurs.