Halberstam est né à Most, en Tchécoslovaquie. Son père est mort quand il était très jeune. Après l'annexion par Adolf Hitler des Sudètes, Halberstam et sa mère déménagent à Prague. À l'âge de douze ans, alors que l'occupation des Nazis progresse, il a été l'un des 669 enfants juifs sauvés par Nicholas Winton, qui a organisé le Kindertransport, un train qui permet à ces enfants de quitter le territoire occupé par les Nazis. Il a été envoyé en Angleterre, où il a vécu pendant la Seconde Guerre mondiale.
↑ (en) H. M. Stark, «Review: Introduction to analytic number theory, by K. Chandrasekharan; Arithmetical functions, by K. Chandrasekharan; Multiplicative number theory, by Harold Davenport; Sequences, by H. Halberstam and K. F. Roth», Bull. Amer. Math. Soc., vol.77, no6, , p.943–957 (DOI10.1090/S0002-9904-1971-12812-4, lire en ligne).