Il obtient un diplôme de premier cycle en gestion et en mercatique de l'Université du Roi Fahd du Pétrole et des Mines en Arabie saoudite[1] en 1995[2].
En 2000, il obtient une maîtrise en gestion d'entreprise de l'université Kingston au Royaume-Uni. De 2006 à 2008, il fréquente la School of International and Public Affairs (SIPA) de la université Columbia pour obtenir une maîtrise en affaires internationales.
Dans les années 1990, il a travaillé au département de comptabilité financière de Saudi Aramco, puis, en 1996, il a déménagé aux Émirats arabes unis pour travailler dans le secteur privé.
Après 2000, il a rejoint le ministère afghan des Affaires étrangères. À ce titre, il a été conseiller politique à New York auprès de la Mission permanente de l'Afghanistan auprès des Nations Unies.
Il a travaillé sur les questions relatives au Conseil de sécurité de l'ONU et a également représenté l'Afghanistan à la Première Commission de l'Assemblée générale des Nations Unies sur le désarmement et la sécurité internationale.
Vers 2008, il a quitté les États-Unis pour s'installer en Afghanistan afin de devenir conseiller politique de son père.
En 2010, il a été nommé ambassadeur d'Afghanistan en Turquie, occupant ce poste du 1er janvier 2011 au 14 avril 2012. Il a été choisi comme chef du parti politique Jamiat-e Islami après l'assassinat de son père le 20 septembre 2011.
Après sa nomination en mars 2012, il a présidé le Haut Conseil pour la paix afghan dans ses négociations avec les Talibans. Il a été président du 15 avril 2012 au 1er février 2015.
Le 12 janvier 2015, il a été nommé ministre des Affaires étrangères par le président Ashraf Ghani, en remplacement d'Ahmad Moqbel Zarar. Sa nomination a été confirmée par le Parlement afghan le 28 janvier et il a prêté serment le 1er février.
Le 21 mars 2017, il a pris la parole lors d'une réunion organisée par le groupe de réflexion Atlantic Council à Washington.
Rabbani a démissionné le 23 octobre 2019, accusant Ghani de l'avoir marginalisé et de créer des structures parallèles entravant le fonctionnement des institutions gouvernementales légitimes. Ghani a nommé Idrees Zaman ministre des Affaires étrangères par intérim en remplacement le 30 octobre.
