En 2004, il est choisi comme candidat républicain au Sénat lors des primaires républicaines de Caroline du Sud où il est parvenu à devancer l'ancien gouverneur de l'État, David Beasley.
Jim DeMint est un partisan de l'élimination des diverses taxes fédérales qu'il remplacerait par une taxe nationale unique de 23% sur les biens et services. Membre du groupe religieux intégriste The Family[1], il est aussi un opposant absolu à l'avortement sous toutes ses formes.
Lors de la campagne électorale, DeMint se prononça à titre personnel pour l'exclusion de l'enseignement public aussi bien des homosexuels que des mères célibataires vivant en concubinage.
Le 2 novembre 2004, Jim DeMint est élu sénateur de Caroline du Sud avec 54% des voix contre 44% au démocrate Inez Tenenbaum.
À partir de , DeMint est membre au Sénat notamment de la commission du commerce, des sciences et des transports et de la commission de l'environnement et des travaux publics.
Candidat à sa réélection au Sénat en 2010, il a dû affronter le démocrate Alvin Greene et le candidat vert Tom Clements. Il a aisément remporté cette élection avec 61,42% des voix.
Appartenant au Tea Party, il a créé le Senate Conservatives Fund, un comité d'action politique servant à financer les campagnes politiques locales de ses alliés[2].
Le , il démissionne de son mandat pour devenir président de la Heritage Foundation, fondation proche du Parti républicain. En cela, il tire les conséquences de son échec à prendre le contrôle du groupe républicain au Sénat[4]. Il joue toutefois ensuite un rôle important dans le « shutdown » qui paralyse la vie politique américaine fin 2013[2].
