Joseph Sumner Gage est le fils de Moses et de Huldah Sweet. Il épouse, en premières noces, Emma Thompson, le à Henry County, dans le Missouri, et en secondes noces, Diantha R. Truax, le . Il a deux enfants avec sa première épouse, William B. Gage, né le et Lilie B. Gage, née le .
Le , il entre au Service Volontaire de l'Union, avec le grade de capitaine et le , il est promu Major dans le 29e Régiment d'Infanterie du Missouri, avant d'être nommé lieutenant-colonel le de la même année. Du à mars 1864, il est inspecteur général pour la 1re Division du XVe Corps d'Armées[1].
Le , il reprend du service dans son régiment, avec le grade de colonel. Il est blessé le à Big Shanty, en Géorgie. Le , il est promu général de brigade et reçoit le commandement du 29e Régiment d'Infanterie du Missouri et ce, jusqu'à sa démobilisation qui intervient le . Le , il est nommé général de brigade des Volontaires américains[1].
