Jean-Marie Gaspard Gauvilliers est le fils d'Antoine Gauvillier, seigneur de Trémolles, greffier en chef du bailliage de Charolles et receveur des tailles et impositions royales du Charolais, et de Claudine Pépin. Parent des intendants Perrin de Cypierre, il est le frère de l'agronome Claude de Gauvillier, receveur général des domaines du roi, et de Jean-François Claude Gauvilliers, receveur général des finances.
Il entre en service le , comme grenadier au régiment de Poitou, il est libéré le , et, entrant dans la Ferme générale, il occupe successivement les fonctions de contrôleur des actes et inspecteur de la régie et de l’enregistrement à Châteauneuf, Sainte-Hermine, Château-du-Loir et Laval, puis de vérificateur de la généralité de Tours à Saumur et contrôleur des actes à Angers. Il épouse Mlle Belland, fille de Jean-Julien Belland de La Fosse, directeur et receveur général des domaines du roi, et sœur du diplomate Mathieu Belland (marié à Mllede Lesseps).
En août 1789, il est élu capitaine, commandant la 1recompagnie de la garde nationale d'Angers, apaise une révolte des ouvriers des ardoisières, et devient major le , commandant de la garde nationale de Ponts-de-Cé. Le , il est inspecteur de la 2edivision de l'enregistrement de Maine-et-Loire, puis le , il est nommé adjudant général, chef de légion de la garde nationale du district d'Angers.
Le , il est relevé de sa suspension, mais il n’est pas réintégré dans l’armée. En , il reprend une carrière administrative, comme receveur des domaines nationaux, puis inspecteur d'enregistrement à la 1redivision du département du Loiret. Le , il est directeur de la régie de l'Enregistrement et des Domaines du département de Lys (Bruges), puis le de la Nièvre (Nevers).
Le , il est nommé membre de l'Académie de législation, puis de l'Athénée de la langue française en 1807. À la Restauration, il se rallie, l'un des premiers, aux Bourbon.
Docteur Robinet, Jean-François Eugène et J. Le Chapelain, Dictionnaire historique et biographique de la révolution et de l'empire, 1789-1815, Librairie Historique de la révolution et de l’empire, 886p. (lire en ligne), p.27.
État, finances et économie pendant la Révolution française: colloque tenu à Bercy les 12, 13, , Comité pour l'histoire économique et financière de la France, 1991