En 1024, comme son père et son grand-père Othon de Carinthie en 1002, Conrad est candidat comme roi des Romains après la mort de l'empereur HenriII. Il a reçu l'aval des Lotharingiens et de l'archevêque Pilgrim de Cologne. Toutefois, c'est son cousin un autre ConradII le Salique (surnommé «l'Ancien»), le fils de son oncle paternel Henri de Spire, qui excelle dans un discours écrit par le prêtre Wipon et est élu roi avec le soutien effectif de l'archevêque Aribon de Mayence. Conrad le Jeune ne veut pas se contenter des belles promesses et l'année suivante, il a soutenu la révolte des ducs ErnestII de Souabe et FrédéricII de Lorraine contre le règne de son cousin; finalement, toutefois, il dut se soumettre en automne 1027.
En 1035, une discorde a éclaté entre Adalbéron d'Eppenstein et l'empereur ConradII et le duc se voit dépossédé de la Carinthie. Après de longues négociations, à la Chandeleur le , Conrad est choisi comme duc afin de le remplacer grâce à l'intermédiation de son frère Brunon. Il accompagna l'empereur lorsque ce dernier doit intervenir en Italie en 1036, à l'appel de l'archevêque Aribert de Milan qui est mis sous la garde de Conrad le Jeune et du patriarche Poppon d'Aquilée mais a réussi à s'échapper.
Il ne survit pas longtemps à sa nomination et meurt le . Il est inhumé auprès de son père et de sa mère Mathilde dans la cathédrale de Worms. Son seul héritier est son cousin le nouveau roi HenriIII. Conrad ne semble pas avoir contracté d'union pourtant un fils (illégitime?) nommé Cuno apparaît en 1056 lorsqu'il cède le domaine de Bruchsal au roi HenriIV.