Abou Moussa est devenu chef adjoint des opérations de l'OLP et a dirigé la défense de Beyrouth par l'OLP en 1982 contre les Israéliens[3]. Cependant, il s'est brouillé avec Yasser Arafat, chef du Fatah et de l'OLP, en mai 1983. Il s'est publiquement plaint des pratiques de corruption au sein de l'OLP, en particulier de la promotion de personnes politiques fidèles à Arafat à des postes militaires importants. Il était également connu pour ses opinions dures sur Israël et son opposition franche à ce qu'il considérait comme une tentative d'Arafat de parvenir à une solution négociée au conflit (voir Front du rejet).
En novembre 1983, il fut expulsé de l'armée de l'OLP et il créa le soulèvement du Fatah (ou Fatah al-Intifada en arabe) en opposition à Arafat[1]. Avec le soutien de la Syrie, qui s'opposait à toute négociation avec Israël, Abou Mousa a conduit ses partisans à chasser l'OLP d'Arafat du nord du Liban[3].
En 1984, Abou Moussa a dirigé le soulèvement du Fatah pour rejoindre les Dix de Damas à Damas en opposition à l'OLP, mais n'a pas réussi à obtenir une majorité de soutien palestinien[3]. Il rejoindra le Front palestinien de salut national en 1985 et s'opposera aux accords d'Oslo en 1993[1]. il se retira de son rôle de leader dans les années 1990 et ne sera plus actif à partir de ce moment-là[1].
