En 1976, il rejoint la Banque centrale des États de l’Afrique de l’Ouest comme économiste au département Recherche où il travaille sous les ordres d'Alassane Dramane Ouattara et en 1977 comme économiste principal et comme chef du service de la prévision[1].
En 1982, il est nommé président-directeur général de la Banque de l'habitat du Sénégal par le président Abdou Diouf où il reste jusqu'en 1990. Cette année-là, il est appelé à participer à la restructuration de la Banque internationale pour l'Afrique occidentale (BIAO) du Sénégal et devient le Directeur Général de la Compagnie bancaire de l'Afrique occidentale (CBAO) créée sur les cendres de la BIAO. Tout en étant à la tête de la CBAO, Abdoul Mbaye lance la première société de leasing au Sénégal et le premier fonds d'investissement de l'Afrique de l'Ouest.
En 1999, il fait partie du consortium qui rachète la Banque sénégalo-tunisienne (BST) dont il devient le directeur général. Il parvient à redresser les résultats qui progressent considérablement les trois années suivantes.
En 2006, Attijariwafa Bank rachète la majorité des parts de la BST. Le consortium mené par Abdoul Mbaye réalise une belle plus-value lors de l'opération. Abdoul Mbaye empoche un chèque de quatre milliards et son associé le magnat sénégalais du btp alioune sadio sow dix milliards. En est nommé cumulativement avec ses fonctions de pca de la banque, président directeur général d'attjirabank senegal jusqu'à son départ en . Abdoul Mbaye a été aussi administrateur de Mastercard pour le Moyen-Orient et l'Afrique[2].
Autres activités
Abdoul Mbaye a en outre présidé l’Association professionnelle des banques et établissements financiers du Sénégal (APBEF) du Sénégal puis l'APBEF de l’Union économique et monétaire ouest-africaine (UEMOA). Figure importante au sein des organisations patronales du Sénégal, il est également le premier président du Groupement Interbancaire Monétique de l'UEMOA (GIM-UEMOA) et enseigne la «Politique monétaire» au sein de l’ENA du Sénégal[3].
Il compte parmi les fondateurs de la Fondation Kéba Mbaye pour l’éthique, en hommage à son père[4].
Il a également été membre fondateur et président de l’Institut sénégalais des administrateurs (ISA) et président du conseil d’administration de l’École Polytechnique de Thiès[5].
Il a été trésorier général de la Fédération sénégalaise de football, président de la Fédération sénégalaise d’athlétisme et vice-président du Comité national olympique et sportif sénégalais. Il est membre de la commission marketing du Comité international olympique (CIO)[5].