Rota a passé une grande partie de sa carrière comme professeur au l'Institut de technologie du Massachusetts (MIT), où il fut et demeure la seule personne à avoir été nommée professeur de mathématiques appliquées et de philosophie. Il occupait également la chaire Norbert Wiener de mathématiques appliquées.
Outre ses postes de professeur au MIT, Rota était titulaire de quatre doctorats honoris causa, décernés par l'université de Strasbourg (1984), l'université de L'Aquila (1990), l'université de Bologne (1996) et l'Institut polytechnique de l'université de New York à Brooklyn (1997). À partir de 1966, il fut consultant au Laboratoire national de Los Alamos, où il se rendait fréquemment pour donner des conférences, participer à des discussions et collaborer, notamment avec son ami Stanisław Ulam. Il fut également consultant pour la Rand Corporation (1966-1971) et pour le Laboratoire national de Brookhaven (1969-1973). Rota a été élu à l'Académie nationale des sciences en 1982, vice-président de l'American Mathematical Society (AMS) de 1995 à 1997, et membre de nombreuses autres organisations mathématiques et philosophiques.
Il enseignait un cours de probabilités exigeant mais très populaire. Il donnait également des cours d'applications du calcul différentiel et intégral, d'équations différentielles et de théorie combinatoire. Son cours de philosophie sur la phénoménologie était dispensé le vendredi soir afin de limiter le nombre d'étudiants. Parmi ses nombreuses excentricités, il refusait d'enseigner sans une canette de Coca-Cola et distribuait des prix, allant des barres chocolatées Hershey aux couteaux de poche, aux étudiants qui posaient des questions en cours ou obtenaient de bons résultats aux examens.
Rota a commencé sa carrière comme analyste fonctionnel, avant de devenir un éminent combinatoire. Sa série de dix articles sur les « Fondements de la combinatoire », parue dans les années 1960, a contribué à faire de cette discipline une branche reconnue des mathématiques modernes. Il affirmait que l'idée combinatoire pour laquelle il souhaitait qu'on se souvienne de lui était la correspondance entre les problèmes combinatoires et les problèmes de localisation des zéros des polynômes. Il travailla sur la théorie des algèbres d'incidence (qui généralisent la théorie de l'inversion de Möbius du XIXe siècle) et popularisa leur étude auprès des combinatoires, établit les fondements rigoureux du calcul ombral, unifia la théorie des suites de Sheffer et des suites polynomiales de type binomial, et travailla sur des problèmes fondamentaux de la théorie des probabilités. Son œuvre philosophique s'inscrivait en grande partie dans le cadre de la phénoménologie d'Edmund Husserl.
Rota fonda la revue Advances in Mathematics en 1961. Une salle de lecture du MIT porte son nom.
Gian Carlo Rota mourut dans son sommeil.