Holles est élu député de Nottinghamshire comme Lord Houghton le , mais est appelé à la Chambre des Lords deux jours plus tard, quand son père meurt et il devient le 4e comte de Clare. Il est créé 1er duc de Newcastle-upon-Tyne, de la 2e création, en 1694. Le Duc de Newcastle-upon-Tyne est un titre qui est créé trois fois dans l'histoire britannique. La première création a disparu lorsque Henry Cavendish (2e duc de Newcastle) meurt sans héritier mâle[1].
En 1710, il achète Wimpole Hall dans le Cambridgeshire et le Manoir de Marylebone. Les terres de Marylebone passèrent à son gendre Harley qui nomme Holles Street en sa mémoire[2].
Une rivalité se forme entre John et sa sœur, Elizabeth, quand elle épouse Christopher Vane, 1er baron Barnard[3].
Le duc meurt en 1711 de blessures subies lors d'une chute de cheval lors d'une chasse près de Welbeck[4]. Il laisse les biens Cavendish à son gendre, Edward Harley et le reste de ses biens à son neveu Thomas Pelham-Holles, par la suite 1er duc de Newcastle (la troisième création) et futur premier ministre.
