Después de la muerte del emperador Leopoldo, Sinzendorf se ganó el favor del emperador José I, quien lo hizo en 1705 Canciller de la Corte (Obersthofkanzler). También fue protector de la Academia Imperial de las Artes. Fue una figura central durante cuatro décadas, especialmente en la política exterior del Imperio Habsburgo. En 1706 negoció en La Haya con John Churchill, 1º Duque de Marlborough y con los representantes de los Países Bajos. Estuvo al lado de Eugenio de Saboya en 1709 como negociador en las negociaciones para una paz preliminar que fracasó, debido a las excesivas demandas del lado de Sinzendorf. De este modo evitó una paz prematura para Austria.
El emperador recompensó a Sinzendorf por sus servicios concediéndole los feudos de Hals y Schärding en Baviera. Sorprendido por la muerte del emperador en La Haya, fue inmediatamente a Fráncfort del Meno para presionar en favor de la elección de Carlos VI como emperador del Sacro Imperio. Después de la elección, Carlos VI confirmó a Sinzendorf en sus puestos y mientras acompañó a Carlos a su coronación en Fráncort, Carlos VI lo nombró Caballero de la Orden del Toisón de Oro.
En las negociaciones del Tratado de Utrecht, Sinzendorf hizo equipo con el Príncipe Eugenio e intentó en vano convencer a los antiguos aliados de continuar la guerra. De vuelta en Viena, fue elegido Ministro de la Conferencia Privada. Fue desde entonces no solo responsable de la política exterior, sino también de la política doméstica. A partir de 1721 también fue el director de la Compañía Privilegiada Imperial Oriental (Kaiserliche privilegierte orientalische Kompagnie). En el Congreso de Soissons para dar fin a la Guerra anglo-española (1727-29), abrió las negociaciones. Se puso en contacto con el cardenal francés y estadista André-Hercule de Fleury. Sus esfuerzos fueron en vano y retornó a Viena. En las negociaciones con los Protestantes en Hungría, estuvo presente en 1734 como el único laico. Fue un ardiente partidario del matrimonio de María Teresa y Francisco Esteban de Lorena. Esto se debía a que esperaba que le traería beneficios personales materiales. Después de la Guerra de Sucesión Polaca, Sinzendorf lideró las negociaciones de paz por Austria, que llevaron al Tratado de Viena (1738). Las derrotas de las fuerzas Imperiales en la Guerra austro-ruso-turca (1735-39) le urgieron a pedir al emperador una pronta paz.
Después de la muerte del emperador, apoyó a María Teresa en su reclamación de sus derechos de herencia. Incluso en los primeros años de la Guerra de Sucesión Austríaca, permaneció al servicio de la emperatriz.