Originaire de Brooklyn, à New-York, John Davis s'engage en 1941 et sert dans l'armée américaine pendant la Seconde Guerre mondiale, dans le Pacifique. Il est autorisé à retourner aux États-Unis en 1942 et 1943 pour participer à des compétitions, possibilité qu'il n'aura pas les deux années suivantes [4]. Pendant la majeure partie de sa carrière d'haltérophile, soit dix-neuf ans, il représente le York Barbell Club.
John Davis se fait connaître en remportant la couronne mondiale des poids mi-lourds à l'âge de 17 ans, à Vienne, en 1938. Il reste invaincu jusqu'en 1953, quand il termine deuxième aux championnats du monde en raison d'une blessure à la cuisse [5]. À son apogée, il détient tous les records du monde de sa catégorie et, aux championnats nationaux de 1951, il devient le premier homme à franchir la barre des 400 livres en soulevant 402 livres . Il prend sa retraite en 1956 après une grave blessure à la jambe [3].
Il succombe à un cancer en 1984, à Albuquerque, au Nouveau-Mexique [3]. Il rejoint le Temple de la renommée olympique des États-Unis en 1989[6].
