Carl Rahl est le fils du graveur Carl Heinrich Rahl. Il va à l'académie des beaux-arts de Vienne et remporte un prix à 19 ans. Il va ensuite à Munich, Stuttgart et en Hongrie et en 1836 en Italie où il reste jusqu'en 1843, étudiant en particulier les peintres vénitiens et les représentants de l'école romaine, à qui il reprend leurs couleurs. Après deux années de résidence à Vienne, il mène une vie errante, où il fait des portraits dans le Holstein, à Paris, Rome, Copenhague et Munich. Rahl réalise des fresques de 1839 à 1842 dans l'université d'Athènes.
En 1849, Anselm Feuerbach entre dans l'atelier de Carl Rahl à Munich. En 1850, Rahl est nommé professeur à l'académie des beaux-arts de Vienne, mais il est bientôt relevé de ses fonctions pour des raisons politiques. Il ouvre une école privée qui a du succès grâce à des contrats de peintures monumentales. Au nom de Simon Sina, il décore la façade et le vestibule de l'église grecque orthodoxe de la Sainte-Trinité de Vienne(en) et le palais du baron. Il décore le Heinrichshof avec les personnifications des arts, de la paix et de la culture et le palais Todesco avec des représentations du mythe de Pâris.
