Le cimetière a été créé en [2]. Il succède au cimetière du Midrach qui est détruit dans les années 1860. Les restes des anciens grands-rabbins d'Alger durent alors être transférés au nouveau cimetière de Saint-Eugène, après quoi un jour de deuil fut observé par la communauté juive algéroise[3]. En 1909 est inauguré le mausolée des Rabbanim (Ribach et Rachbats) et le c'est le Monument aux morts de la Grande Guerre qui est inauguré.
La dernière inhumation est celle de Roger Hanin, le [2].
Le cimetière serait aujourd'hui dévasté, particulièrement dans sa partie haute. Intempéries, vandalisme et profanations en sont la cause[4]. Une inspection en confirme la continuation des dégradations et l'envahissement par les ronces et les pousses d'arbre[5]. En , il apparaît que ce cimetière est entretenu par l’État[Lequel ?] et même visité par les familles[réf.nécessaire].
