Cette même année, son père démissionne de la Chambre des communes et le jeune homme se présente, sous l'étiquette du Parti conservateur, à l'élection partielle qui en résulte dans la circonscription de Thetford. Il est élu sans adversaire, et réélu de la même manière aux élections législatives de 1859. En 1864, ne participant pas activement à la banque d'affairesBaring Brothers fondée par son arrière-grand-père Sir Francis Baring, il en démissionne formellement. Cette même année, il épouse Leonora Digby, fille du 9e baron Digby, dont il a sept enfants. Il est réélu député de Thetford aux élections législatives de 1865, face à un candidat du Parti libéral. Il démissionne de la Chambre des communes en 1867. Son père, devenu le 3e baron Ashburton en 1858, meurt en , et Alexander Hugh Baring hérite du titre de 4e baron Ashburton ainsi que d'un siège à la Chambre des lords. Il meurt en 1889 à Bath House, la résidence familiale à Piccadilly. Son fils aîné Francis Baring (5e baron Ashburton) lui succède. Parmi ses autres enfants, deux, Guy et Caryl, ont comme lui une carrière militaire; ils participent tous deux à la seconde guerre des Boers puis à la Premier Guerre mondiale, à laquelle Guy Baring -député conservateur- est tué en 1916[1],[3],[4].
