En 1501, il épouse Digne des Baux (-1503) dont il eut un fils, Paul Carondelet (1501-1581), seigneur de Mousty-sur-Thil et capitaine de cuirassiers, dont la descendance directe se poursuivra jusqu’au début du XVIIIesiècle.
En 1504, à la mort de sa femme, il est nommé archidiacre laïc du chapitre métropolitain de Besançon et devient diplomate et conseiller particulier de l'empereur Maximilien. En 1508, il est un des conseillers privilégiés de la princesse Marguerite d'Autriche, régente du comté de Bourgogne et des Flandres.
En 1511, il devient abbé commendataire de l’abbaye de Montbenoît dans le Doubs dont il est un bienfaiteur important: il fit reconstruire le chœur de l'abbatiale. Il établit aussi une chapelle familiale dans la cathédrale Saint-Étienne de Besançon dans laquelle son frère Jean fit plus tard installer pour lui un tombeau commandé au sculpteur Michel Scherrier à Bruges en 1543.Il s'installe définitivement à l'abbaye de Montbenoît à l'été 1520. Il y meurt le .
Léon de la Brière, «Dépêches de Ferry Carondelet, Procureur en Cour de Rome (1510-1513)», Bulletin Historique et Philologique du Comité de Travaux Historiques et Scientifiques, , p.98-134 (lire en ligne)
Auguste Castan, «La Vierge de Carondelet», Mémoires de la Société d'émulation du Doubs,
_Cathédrale_Saint-Jean_-_Intérieur_-_Tableau-_La_Vierge_aux_saints_-_05.jpg)
