Lorsqu'en , la Caisse des comptes courants lance une recapitalisation de 8 millions de francs, Desprez apporte son soutien en tant qu'actionnaire. En 1799, il devient même administrateur de la Caisse. En 1800, après la fusion de la Caisse avec la Banque de France, il occupe une charge d'agent de change. Il souscrit de façon importante au capital de la Banque de France alors que le marché se montrait frileux[1].
En 1801, Desprez devient l'un des régents de la Banque de France. En , il devient directeur de la Compagnie des négociants réunis, entreprise en réalité commanditée par les financiers Gabriel-Julien Ouvrard et Ignace-Joseph Vanlerberghe, dont les excès sont largement soutenue par le secrétaire au Trésor, François Barbé-Marbois. En quelques années, les Négociants réunis obtiennent de nombreuses avances de trésorerie de la Banque de France, faisant gonfler l'encours de l’institution à un niveau excessif. Les avances étaient gagées sur les arrivées de matières précieuses des colonies espagnoles que le blocus anglais rendait aléatoires. Par ailleurs, Desprez se retrouve mêlé à des malversations à la suite de la vente de la Louisiane en 1803, vente organisée par la banque Hope & Co. et la Barings. Une crise financière éclate durant l'hiver 1805-1806 et Barbé-Marbois est révoqué. Alors qu'il était connu comme banquier, l'un des meilleurs sur la place de Paris, Desprez est démissionné de son poste de régent en 1806, à la suite de révélations quant aux spéculations qu'ils avaient soutenues.
Privé de tous ses biens, sa mise en faillite est prononcée le et il passe quinze mois à la prison de Sainte-Pélagie[2].
Louis Bergeron, Banquiers, négociants et manufacturiers parisiens du Directoire à l’Empire, Paris, Mouton Éditeur, 1978
Michel Bruguière, Gestionnaires et profiteurs de la Révolution. L’administration des finances françaises de Louis XVI à Bonaparte, Paris, Orban, 1986
Romuald Szramkiewicz: "Desprez (Médard), 1764 – 1842, régent de la Banque de France", in Jean Tulard (s/d), Dictionnaire Napoléon, Paris, Arthème Fayard, 1987, p.598