À l'issue de ses études à Adélaïde, il obtient son diplôme de médecin généraliste à l'université Flinders. Il exerce son métier de médecin à Hobart, en Tasmanie de 1985 à 1995 et gravit les échelons pour devenir président fédéral de l'Association des médecins australiens de 1993 à 1995.
Membre du Parti travailliste à partir de 1988, il ne peut obtenir de sa formation politique sa désignation comme candidat à un siège de député. Il se tourne alors vers le Parti libéral en 1994 et peut se présenter comme candidat à la députation pour la circonscription de Bradfield où il est élu en 1996.
Au sein du gouvernement dirigé par John Howard, il devient ministre de l'Éducation en 2001 puis le , ministre de la Défense.
Après la victoire des travaillistes lors des élections fédérales du et la démission de John Howard de son poste de chef du Parti libéral, Nelson se porte candidat à sa succession. Le , il est élu chef du Parti libéral en battant Malcolm Turnbull par 45 voix contre 42[1].
Le , face à la contestation en interne dans son parti, il convoque l'élection d'un nouveau chef du Parti libéral pour le lendemain dans l'espoir de relancer son leadership[2]. De nouveau confronté à Malcolm Turnbull, il est battu par 45 voix contre 41[3].
En , il annonce qu'il ne se représentera pas lors des prochaines élections fédérales[4]. Le , il annonce sa démission en cours de législature, provoquant une élection partielle dans sa circonscription de Bradfield[5].
En , il est désigné pour devenir directeur du mémorial australien de la guerre. Il quitte alors ses fonctions diplomatiques et prend son nouveau rôle le [7]. En , il obtient du gouvernement le financement d'une extension du mémorial pour un total de près de 500 millions de dollars australiens, un projet qui suscite la controverse, plusieurs opposants estimant que le montant aurait pu être mieux dépensé en services aux anciens combattants[8]. En , il est critiqué pour avoir accepté au nom du mémorial des donations de la part d'entreprises d'armement[9]. En , le gouvernement annonce que Nelson quittera ses fonctions à la fin de l'année, quand son mandat de sept ans à la tête du mémorial arrivera à son terme[10].