Future of Life Institute
organisation à but non lucratif
From Wikipedia, the free encyclopedia
Future of Life Institute (FLI, Institut pour l'avenir de la vie) est une association à but non lucratif dont les bureaux physiques sont à Bruxelles, Belgique et à Campbell, États-Unis. Sa mission est double :
- Diminuer les risques existentiels menaçant l’humanité (ou dits extrêmes à grande échelle), en particulier ceux provenant de l’intelligence artificielle (IA).
- Développer des visions optimistes de l'avenir, en particulier des façons positives de développer et d'utiliser de nouvelles technologies[1],[2].
| Fondation |
mars 2014 |
|---|
| Sigle |
(en) FLI |
|---|---|
| Type | |
| Forme juridique | |
| Domaine d'activité |
Diminution des risques existentiels, notamment de l'intelligence artificielle |
| Bureau européen | |
| Pays | |
| Coordonnées |
| Fondateurs |
Jaan Tallinn, Meia Chita-Tegmark (d), Max Tegmark, Anthony Aguirre (en) |
|---|---|
| Président | |
| Personnes clés |
Meia Chita-Tegmark (d) |
| Chiffre d'affaires | |
| Site web |
| IRS |
|---|
Le travail de FLI comprend notamment l'octroi de subventions, la sensibilisation à l'éducation et le plaidoyer au sein des Nations unies, du gouvernement des États-Unis et des institutions de l'Union européenne.
Histoire
Le FLI a été fondée en par Max Tegmark, cosmologiste à l'institut MIT, Jaan Tallinn, cofondateur de Skype, Viktoriya Krakovna, chercheuse à DeepMind, Meia Chita-Tegmark, chercheuse postdoctorale à l'Université de Tufts, et Anthony Aguirre, physicien à l'UCSC.
Parmi les consultants de l'institut figurent ou figuraient l'informaticien Stuart Russell, le biologiste George Church, les cosmologistes Stephen Hawking et Saul Perlmutter, le physicien Frank Wilczek, l'entrepreneur Elon Musk, ainsi que Alan Alda et Morgan Freeman[3],[4],[5].
Un lourd conflit juridique oppose OpenAI à Elon Musk après que ce dernier ait tenté d'acheter OpenAI ($97 milliards) en février 2025 ; OpenAI reproche à Elon Musk de mener contre l'entreprise une « campagne acharnée » et des actions « malveillantes » destinées à nuire et à entraver ses activités après son succès sans lui[6].
Dans ce cadre, le FLI et d'autres ONG ayant critiqué l'abandon par OpenAI de sa mission initiale, début octobre 2025, une assignation à comparaître (et le président du FLI, Max Tegmark a lui-même reçu une assignation individuelle fin août). Open AI semble accuser le FLI d'avoir contribué à une campagne de Musk contre Open AI. Le FLI a reçu au moins $10 millions de financement d'Elon Musk, avec un dernier financement en . Cet argent a financé la recherche technique et politique sur l'IA, dont un programme de subvention[7] visant à produire « une IA robuste et bénéfique ». Selon le FLI, « Elon Musk n'a aucune contribution dans les activités structurelles de FLI » et FLI a distribué l'argent de Musk à des chercheurs d'IA de premier plan, et reçu en 2021 bien plus d'argent (l'équivalent de 665 millions de dollars en cryptomonnaie) de Vitalik Buterin, ce qui lui permet désormais de financer largement la recherche, le lobbying et la création d'organisations dédiées à la régulation de l'IA[8], comme cela est indiqué dans ses rapports de financement en ligne. De nombreux commentateurs ont estimé qu'OpenAI profite de ce procès pour intimider ses détracteurs en laissant entendre qu’Elon Musk est derrière eux tous, et selon Tyler Whitmer (qui dirige le groupe des avocats et juristes pour la sécurité scientifique et technologique [LASST] qui a aussi reçu une assignation d'OpenAI), ces assignations n'ont pas de liens étroits avec le litige mais « tentent plutôt de tirer parti du litige pour obtenir des informations auxquelles OpenAI n’a pas autrement droit »[9]. »
Opérations
Plaidoyer
FLI contribue activement à l'élaboration des politiques en matière d'IA.
En Europe, FLI a plaidé avec succès pour l'inclusion de systèmes d'IA plus généraux, tels que GPT-4, dans le règlement sur l'intelligence artificielle de l'UE[10].
Aux Etats-Unis, en octobre 2023, le chef de la majorité au Sénat américain, Chuck Schumer, a invité le FLI à partager son point de vue sur la réglementation de l'IA avec certains sénateurs[11].
FLI plaide activement, aux côtés d'autres organisations, contre les deepfakes (hypertrucages) afin que ceux-ci soient interdits[12] ainsi que contre les robots d'abattage[13].
Subventions de recherches
En 2015, FLI a lancé le premier programme de subventions évalué par les pairs visant à garantir que l'intelligence artificielle (IA) reste sûre, éthique et bénéfique. Lors du premier cycle, FLI a accordé 6,5 millions de dollars à 37 chercheurs[14].
En 2018, le deuxième programme de subventions de la FLI était axé sur la sécurité de l'IA[15]. En 2021, 2022 et 2023, FLI créait un nouveau programme de bourses doctorales[16] et post-doctorales[17] financé par le programmeur russo-canadien Vitalik Buterin[18].
En 2022, FLI subventionnait des projets de recherches spécifiquement afin d'approfondir la compréhension des conséquences d'une guerre nucléaire en se fondant sur des données probantes[19].
En 2024, FLI lançait un appel à propositions pour des recherches évaluant en détail l'impact de l'intelligence artificielle sur les objectifs de développement durable (ODD) relatifs à la pauvreté, aux soins de santé, à l'énergie et au changement climatique, et la manière dont on peut s'attendre à ce qu'elle ait un impact sur ces objectifs dans un avenir proche[20].
La même année, FLI lançait un autre appel à propositions de recherche dans le but de concevoir des mécanismes ou des institutions de gouvernance mondiale dignes de confiance, susceptibles de contribuer à stabiliser un avenir comportant 0, 1 ou plusieurs projets d'intelligence artificielIe générale[21].
Conférences & évènements
Le 24 mai 2014, le FLI organisa une discussion sur l'avenir de la technologie (The Future of Technology: Benefits and Risks) au MIT, modérée par Alan Alda[22],[23],[24]. Les participants étaient George Church (biologiste), Ting Wu (généticien), Andrew McAfee (en) (économiste), Frank Wilczek (physicien) et Jaan Tallinn[25],[26]. La discussion portait sur de nombreux sujets, allant de l'avenir du génie biologique à l'éthique de l'intelligence artificielle et à la singularité[22],[27],[28].
Du 2 au 5 janvier 2015, le FLI organisa et hébergea la conférence « The Future of AI: Opportunities and Challenges » (L’avenir de l’IA : opportunités et défis), avec pour objectif d'identifier les directions de recherche les plus prometteuses pour bénéficier des avantages de l'IA[29]. Durant la conférence, l'institut fit circuler une lettre ouverte sur l'intelligence artificielle qui fut par la suite signée par Stephen Hawking, Elon Musk, et de nombreux autres experts dont une centaine de sommités du monde de l'IA[30].
En 2017, la conférence d'Asilomar sur l'IA bénéfique, en Californie[31], un rassemblement privé que le New York Times a appelé "les gros noms de l'IA" (y compris Yann LeCun, Elon Musk et Nick Bostrom). L'institut a publié un ensemble de principes pour le développement responsable de l'IA, issus des discussions de la conférence et signés par Yoshua Bengio, Yann LeCun et de nombreux autres chercheurs en IA[32]. Ces principes ont pu influencer la réglementation de l'intelligence artificielle et des initiatives ultérieures, telles que les principes de l'OCDE sur l'intelligence artificielle.
En 2019, la conférence bénéfique de l'intelligence artificielle générale à Porto Rico (2019)[33], avait pour objectif de répondre à des questions de long terme afin de garantir que l'intelligence artificielle générale soit bénéfique pour l'humanité[34].
Récompenses
Le prix "Future of Life" rend hommage à des personnes qui, sans avoir bénéficié d'une grande reconnaissance au moment de leurs réalisations, ont contribué à rendre le monde d'aujourd'hui bien meilleur qu'il n'aurait pu l'être autrement[35].
Le prix a été attribué :
- en 2017, à la famille du défunt Vasili Arkhipov pour avoir à lui seul, en 1962, probablement évité au monde une guerre nucléaire au plus fort de la crise des missiles de Cuba[36] ;
- en 2018, à la famille du défunt Stanilas Petrov dont le jugement courageux le 26 septembre 1983 a probablement permis d'éviter une frappe nucléaire pendant la guerre froide, qui aurait pu facilement dégénérer en un conflit nucléaire ouvert[37] ;
- en 2019, à Matthew Meselson pour son travail en faveur de la Convention sur l'interdiction des armes biologiques de 1972, une interdiction internationale de mise au point, de fabrication et stockage des armes bactériologiques (biologiques) ou à toxines et sur leur destruction[38] ;
- en 2020, à la famille du défunt Dr. Viktor Zhdanov et à Dr. William Foege pour leur contribution à l'éradication du virus de la variole[39] ;
- en 2021, à Stephen Andersen, Susan Solomon et Joseph Farman, aujourd'hui décédé pour leurs contributions essentielles au protocole de Montréal de 1987 permettant de protéger la couche d'ozone [40] ;
- en 2022, à Jeannie Peterson, Paul Crutzen, John Birks, Richard Turco, Brian Toon, Carl Sagan, Georgiy Stenchikov, et Alan Robock pour avoir réduit le risque de guerre nucléaire en développant et en vulgarisant la science de l'hiver nucléaire[41] ;
- en 2023, à Nicholas Meyer, Edward Hume, Brandon Stoddard, Walter F. Parkes, et Lawrence Lasker pour avoir réduit le risque de guerre nucléaire grâce au pouvoir de la narration[42].
Lettres ouvertes
Lettre ouverte sur les armes autonomes létales
En 2018, FLI a rédigé une lettre appelant à l'adoption de "lois contre les armes autonomes létales". Parmi les signataires figuraient Elon Musk, Demis Hassabis, Shane Legg et Mustafa Suleyman[43].
Lettre ouverte sur une pause dans l'IA
En mars 2023, FLI a publié une lettre ouverte appelant à une pause dans le développement de systèmes d'IA plus puissants que le GPT-4[14],[44].
Lettre ouverte pour les dirigeants mondiaux
En 2024, Max Tegmark, président de la FLI, a publié une lettre avec Mary Robinson, présidente de l'ONG Global Elders, dans Le Monde, exhortant les dirigeants mondiaux à prendre des mesures urgentes face aux menaces existentielles[45].
