Très engagé pour la République de Weimar, défendant en tant qu'avocat les syndicats à Berlin, il est contraint à l'exil à cause de ses origines juives par les nazis en 1933, il se réfugie d'abord à Londres où il rédige sous la direction de Harold Laski (London School of Economics) sa seconde thèse (The Governance of the Rule of Law, 1936) avant de gagner les bureaux de l'Institut de recherches en sciences sociales de Francfort à New York où il rédigera le livre qui l'a rendu célèbre jusqu'à aujourd'hui et dont la première édition date de 1942 : Béhémoth - Structure et pratique du national-socialisme. En tant que spécialiste hors pair de l'Allemagne il sera recruté par l'Office of Strategic Services (OSS) pour lequel il travaillera de 1942 à 1945, préparant notamment certains aspects du procès de Nuremberg; de 1945 à 1947 il y dirigera la Section de recherche allemande (German Research Section). Il aura fait recruter à l'OSS Otto Kirchheimer et Herbert Marcuse. Dans le cadre de l'OSS, il retournera en Allemagne (notamment à Nuremberg), en 1945 pour la première fois depuis 1933.
En 1948 il devint professeur invité (Visiting Professor) à la Columbia University où il sera nommé professeur ordinaire de droit public (Full Professor of Public Law and Government) en 1950. C'est à ce titre qu'il a dirigé la thèse de Raul Hilberg sur la destruction des Juifs d'Europe".
À cette période, il participe à la fondation de l'Université libre de Berlin (Freie Universität) et est à l'origine du renouveau de la science politique en République fédérale d'Allemagne.
Il songeait à revenir s'installer en Allemagne lorsqu'un accident de voiture lui coûta la vie en Valais, en Suisse, en 1954.