Petit fils de Léon Lyon-Caen, avocat général à la Cour de cassation ayant, en tant que juif, fait l'objet d'une interdiction d'exercer en 1940, il a vu son père, François, avocat au conseil d'État, être déporté et mourir à Auschwitz. Il a lui-même été sauvé par son grand-père, qui l'a caché, comme son frère, Arnaud Lyon-Caen[5] et sa sœur Dominique Lyon-Caen. À la demande son père, ils reçoivent tous les trois une éducation protestante[6].
Ces drames personnels et les dénonciations du rôle de la justice sous Vichy éclairent ses engagements tout au long de sa carrière[7]. Pierre Lyon-Caen a été un des fondateurs du Syndicat de la magistrature en 1968, dont il a été vice-président avant d’être secrétaire général entre 1970 et 1972[8].
Magistrat engagé, il a rejoint le cabinet de Robert Badinter, alors Garde des sceaux, d’abord en tant que conseiller technique puis comme directeur-adjoint., de 1981 à 1985[9]. Il a par la suite été chef de juridiction, d’abord président du tribunal de Pontoise en 1985, puis procureur de la République de Nanterre en 1990. Il a été avocat général à la Cour de cassation à compter de 1994, à la chambre sociale[4],[10].
Après son départ en retraite, il a également été secrétaire général du Service social d'aide aux émigrants (SSAE), membre du Conseil national de l'information statistique, vice-président de l'Association, réflexion, action, prison et justice (ARAPEJ)[4].
Il a également été membre du Comité des experts pour l'application des conventions et recommandations de l'Organisation internationale du travail (OIT), membre de la Commission nationale de déontologie de la sécurité, membre de la Commission nationale consultative des droits de l'homme de 2009 à 2015, membre du conseil d'orientation de l'Agence de la biomédecine de 2011 à 2014 et président de la Commission arbitrale des journalistes en 2018[4].