En 1991, à la suite de l'indépendance de l'Érythrée, il est nommé vice-secrétaire général du gouvernement provisoire d'Érythrée (Gezyawi mengesti hager Ertra). En 1993, il devient vice-président du nouvel État[2]. En , il officialise l'établissement de relations diplomatiques entre la Chine et l'Érythrée[3] Il reçoit en plus le poste de ministre de l'Intérieur en 1994 puis, lors du remaniement ministériel de 1997, il quitte l'Intérieur pour le ministère des Gouvernements locaux, qu'il dirige jusqu'en 2001[4], chargé entre autres de la mise en œuvre du projet de loi sur l'autorisation des partis politiques[5].
Mahmud Sherifo critique la politique du président érythréen Isaias Afwerki lors d'une interview en ; il lance le mouvement de contestation qui mènera à la «Lettre des 15», une lettre ouverte appelant à un dialogue pacifique et démocratique dans le conflit armé avec l'Éthiopie[6], et dénonçant la dérive dictatoriale du dirigeant actuel[7]. Il est arrêté le [8],[9], et conduit de force dans les cellules du poste de police n°1 d'Asmara[7]. Les prisonniers du G15 ont ensuite été transférés au complexe secret d'EiraEiro construit spécialement pour eux[7]. Il serait mort en détention le [10],[11].
