Le , Pfleiderer exige dans un mémorandum un système de sécurité paneuropéen qui tient compte des intérêts de l'Union soviétique et d'une Allemagne unie en s'arrêtant à la ligne Oder-Neiße. Le (un an après la mort de Staline), il appelle à l'établissement de relations diplomatiques avec l'Union soviétique; il provoque la rupture de la coalition avec la CDU. Ses pensées prendront sens avec l'Ostpolitik.
Il démissionne le pour revenir à la diplomatie et devient ambassadeur en Yougoslavie.
Dix jours après la mort de Pfleiderer, l'Allemagne rompt ses relations avec la Yougoslavie, après qu'elle a reconnu la RDA. Elle applique la doctrine Hallstein à laquelle était opposé Karl Georg Pfleiderer.
