Su carrera como entrenador comenzó en el 2003 en la cantera del Austria Salzburg. En el 2005 pasa a dirigir como segundo entrenador al equipo filial del Red Bull Salzburg, el FC Liefering.[1] En dicho club se convirtió en el entrenador del 8 de abril de 2011 al 31 de diciembre de 2011.[2] El 1 de enero de 2012 pasó a ser entrenador del FC Pasching hasta el 4 de septiembre de 2013.[3]
Un año después, el 5 de septiembre de 2014, entrenó al SKN St. Pölten hasta que se convirtió en entrenador del Austria de Viena el 27 de mayo de 2014.[4][5] Baumgartner llevó al St. Pölten a la final de la Copa de Austria en la temporada 2013-14 con lo que logró clasificar al equipo para la Liga Europa de la UEFA 2014-15.[5][6]
El 27 de mayo de 2014 Baumgartner se convirtió en entrenador del Austria de Viena. El estilo que quería implementar era una presión agresiva.[7] Su primer partido oficial fue una victoria por 6-0 en la primera ronda de la Copa de Austria contra el First Vienna FC,[8] sin embargo tras esa victoria el equipo no ganó ninguno de sus primeros siete partidos en la Bundesliga con cinco empates y dos derrotas. Baumgartner fue cesado el 22 de marzo de 2015 después de perder 1-0 ante el SV Ried el día anterior.[9]
El 18 de diciembre de 2015 Baumgartner fue presentado como el nuevo entrenador y director deportivo de Austria Salzburg en el que estuvo durante una temporada.[10]
Baumgartner fue nombrado entrenador del SV Mattersburgo el 2 de enero de 2017 como sustituto de Ivica Vastić pues el equipo se encontraba sólo con 14 puntos.[11]
El 1 de enero de 2019, Baumgartner asumió el cargo de entrenador y director deportivo del club SV Ried de la Erste Liga.[12] En la temporada 2019/20 logra el ascenso a la Bundesliga al proclamarse campeón.[13] En diciembre de 2020 es destituido de ambos cargos.[14]
En abril de 2020 es contratado por el St. Pölten para evitar el descenso a la 2.Liga en sustitución del entrenador interino Georg Zellhofer.[15] Sin embargo una serie de malos resultados, que acabaron con el equipo descendiendo de categoría, le llevaron a ser destituido.