En 1971, il joue au poste de tight end. Carmichael participe à son premier match dans la NFL le contre les Bengals de Cincinnati (défaite 37 à 14)[3]. Il capte 2 passes pour 46 yards. Lors de sa saison rookie, il joue 9 matchs dont 6 en tant que titularisé et effectue 20 réceptions pour un gain cumulé de 288 yards sans touchdown.
La saison suivante, Carmichael joue en tant que wide receiver, poste qu'il occupait avec Southern. En 1973, son rendement explose avec l'arrivée du nouvel entraîneur principal Mike McCormack(en). En effet, juste avant le début de la saison, le wide receiver Harold Jackson(en) est envoyé aux Rams de Los Angeles, avec Tony Baker et plusieurs choix de draft dans un échange contre le quarterbackRoman Gabriel(en)[4]. L'échange permet à Carmichael d'obtenir le rôle de wide receiver titulaire. Ce dernier réussit 67 réceptions pour un gain total de 1 116 yards et 9 touchdowns. Ce rendement lui permet d'être sélectionné pour la première fois de sa carrière au Pro Bowl.
Pendant les trois saisons qui suivent, sa production dégringole en l'absence d'un bon quarterback. En 1977,, le quarterback Ron Jaworski(en) est acquis en provenance des Rams de Los Angeles en échange du tight endCharle Young[5]. Avec Jaworski, Carmichael devient le meilleur receveur les Eagles avec 45 réceptions pour un gain total de 665 yards et 7 touchdowns.
Il est sélectionné au Pro Bowl de 1978 à 1980, Lors de la saison 1979, il bat le record du plus grand nombre de matchs consécutifs (127) avec au moins une réception[6]. Le record est battu plus tard par Jerry Rice (274 matchs consécutifs).
En 1980, il remporte le Walter Payton Man of the Year Award, décerné à un joueur qui excelle au football américain et qui s'implique dans une œuvre caritative en dehors du terrain.
Le , Carmichael est engagé par les Cowboys de Dallas[7] mais ne joue que deux matchs n'effectuant qu'une réception avant d'être libéré par la franchise et d'annoncer sa retraite[8].
