Entré dans la marine en tant que volontaire de première classe à bord du HMSLion, 64 canons en et l'accompagnant en Chine, il revient en et est affecté au HMSMedusa tant qu'aspirant. Peu après, son frère aîné Josceline est nommé lieutenant par intérim. Il est promu lieutenant en 1807 et commandant en 1810, son premier commandement est le HMSMermaid en 1811. Percy et Mermaid transportent des troupes de la Grande-Bretagne pour la Guerre d'indépendance espagnole.
Il est nommé capitaine le , mais son commandement suivant (du 20 canon HMSHermes en 1814, opérant sur la côte nord-américaine) est tombé en panne quand il perd 50 membres de son équipage blessés ou tués dans une attaque infructueuse sur Fort Bowyer, Mobile, puis doit mettre le feu à son propre navire pour la garder hors des mains ennemies. Une cour martiale détermine que l'attaque était justifiée par les circonstances. Pourtant, c'est son dernier service naval, bien qu'il ait ramené en Angleterre des dépêches annonçant la défaite britannique à la bataille de La Nouvelle-Orléans.
Pendant un certain temps pendant sa retraite, il est commissaire aux accises et grâce à l'influence du beau-fils de sa tante maternelle, le deuxième marquis d'Exeter, il siège en tant que député conservateur de Stamford, Lincolnshire de 1818 à 1826 [1]. Il quitte le Parlement pour prendre un poste d'accise, d'une valeur de 1 200 £ par an [2]. Il est fait contre-amiral sur la liste des retraités le .
Il est décédé célibataire en , à l'âge de 67 ans, au 8 Portman Square, Londres, la maison de son frère aîné.
