Fils d'une institutrice et d'un receveur des Postes[2], Michel Jau est diplômé de Sciences Po Paris et ancien élève de l'ENA dans la promotion Voltaire de 1978 à 1980[3] où il côtoie notamment François Hollande, Michel Sapin ou encore Ségolène Royal[4].
Affecté au Ministère de l'Intérieur[5]. à sa sortie de l'ENA, Michel Jau devient conseiller technique de 1983 à 1985 puis directeur de cabinet de Georges Lemoine, secrétaire d'État aux Départements et Territoires d'outre-mer avant d'effectuer sa mobilité comme consul général à Constantine entre 1986 et 1988[5].
De retour au Ministère de l'Intérieur, il fut chef du bureau des officiers et commandants et des corps urbains à la direction du personnel, avant d'être chargé de mission ; puis conseiller, chargé de l'intérieur et des DOM-TOM, au Cabinet du président de la République François Mitterrand de à , puis Haut-commissaire de la République en Polynésie française le et enfin conseiller technique à la présidence de la République le .
Le , le Conseil d'administration de la Société concessionnaire française pour la construction du tunnel routier sous le Mont-Blanc le nomme président dudit Conseil d'administration.
Le , Michel Jau alors préfet en service détaché devient préfet hors cadre, puis préfet du Tarn[6] le . Le , il est nommé préfet de l'Oise[7] en Conseil des ministres avant de redevenir préfet hors cadre le .
Le , il perd ce statut au profit de celui de directeur du Centre national pour l'aménagement des structures des exploitations agricoles dont il est ensuite nommé directeur général le puis président-directeur général de l'Agence de services et de paiement le .
Le , il est nommé directeur du cabinet du ministre chargé de la mise en œuvre du plan de relance Patrick Devedjian auprès du Premier ministre sous le deuxième gouvernement François Fillon.
Le il est nommé Préfet des Yvelines[8],[9] en Conseil des ministres.
Le , il est nommé préfet de la région Limousin et préfet de la Haute-Vienne puis préfet de la région Centre[10],[11] et préfet du Loiret le avant de prendre sa retraite de sa carrière de préfet le [12]. Enfin, le , il est nommé Conseiller maître en service extraordinaire à la Cour des comptes[13].
Michel Jau est admis à faire valoir ses droits à la retraite à compter du .