En 1985, Mustapha Cheloufi devient Secrétaire général du ministère de la Défense nationale. À ce titre, il reçoit en 1986, une délégation du Pentagone, l'achat de matériel militaire américain ayant du être traité selon le média Le Monde. À partir des années 2000, il est conseiller du président de la République pour les affaires de défense[1],[3].
Il est nommé membre du Conseil de la nation (Sénat) en 2004, il y préside la commission de défense[1].
Le général Mustapha Cheloufi meurt le à l’hôpital militaire de Aïn Naâdja d'Alger à l’âge de 86 ans. Amar Ghoul lui succède, en tant que sénateur. Il est inhummé dans le cimetière de Bouchaoui en présence notamment d'Abdelkader Bensalah, de membres du gouvernement et de l'armée nationale populaire[4],[5].