En 1804, il est nommé Lord Lieutenant du Radnorshire (succédant à son grand-père Thomas Harley), poste qu'il occupe jusqu'à sa mort en 1842[1].
Lord Rodney épouse Charlotte Georgiana Gould-Morgan, fille de Charles Morgan (2e baronnet), en 1819. Il n'y a pas d'enfants du mariage. Il meurt en , trois jours après son soixantième anniversaire, et est enterré à Old Alresford, Hampshire. Son jeune frère Thomas lui succède comme baron. Lady Rodney est décédée en [1].
