Il entre chez Lehman Brothers à New York en 2000[6]. Nommé directeur général exécutif de la filiale française de cette banque en 2008, il la redresse jusqu'à son rachat par le japonais Nomura Holdings[5].
Ses premières actions à la direction de la Bourse de Londres sont la baisse des tarifs pratiqués et l'investissement dans les nouvelles technologies avec le rachat de Millenium IT. Il négocie également le rachat de la plateforme de négoce alternativeTurquoise[7], ainsi que de 50% des parts de FTSE International détenues par Pearson, lui en donnant ainsi le contrôle. Le , il acquiert une majorité de contrôle dans la plus grande société mondiale de compensation: LCH.Clearnet Ltd.
En 2018, il intègre le conseil d'administration du fabricant russe d’engrais PhosAgro[8].
En , Xavier Rolet devient directeur général de la société de gestion d’actifs londonienne CQS[9]. Et il est également nommé président de PhosAgro[10].
Considéré comme un porte-parole du lobby russe à Londres, il est en désaccord avec les sanctions prises à la suite du conflit russo-ukrainien. S'il refuse un temps à démissionner de son poste au sein de la compagnie russe PhosAgro, en mars 2022, il annonce qu'il le quitte[11],[12].