Modèle frontière (intelligence artificielle)

Le mot frontière

Dans son sens nord-américain le plus général, la notion anglo‑saxonne de « frontier » renvoie d'abord à l'imaginaire américain de la conquête de l'Ouest, où la frontière représentait un espace mouvant entre connu et inconnu, propice à l'exploration et à l'appropriation. Selon la thèse de Frederick Jackson Turner, cette zone liminale a façonné l'identité américaine, et d'autres historiens rappellent qu'elle s'est aussi construite au prix de violences coloniales et de destructions environnementales.

Au XX^e siècle, la métaphore s'est déplacée vers la conquête spatiale et le monde de la science, notamment avec Vannevar Bush, pour désigner non plus un territoire géographique mais la limite du savoir humain.

Au XXI^e siècle, dans le contexte de l'Intelligence artificielle générative (dans les années 2020), avec l'apparition des grands modèles de langage (appelés LLM de l'anglais large language model), le terme « modèle de frontière » est repris par les acteurs de l'IA générative comme OpenAI, Anthropic, Google DeepMind et le gouvernement du Royaume‑Uni lancés dans la course à l'intelligence artificielle générale. Il désigne les modèles d'IA les plus puissants — et les plus risqués — ; capables de performances générales, multimodales et émergentes dépassant les systèmes antérieurs, et que les équipes rouges pourraient avoir du mal à identifier. Ce sont les modèles d'IA qui obtiennent les meilleurs résultats aux tests d'évaluations (benchmarks) les plus difficiles et pour certains conçus pour être hors de portée des LLM les plus en pointe (par exemple début 2026 : Humanity's Last Exam, GPQA Diamond, SWE-bench Verified, ARC‑AGI‑2, AIME/AMC/USAMO, GAIA/OSWorld MATH/MATH‑500, DeepSeekMath…), pour un large spectre de compétences (langues, texte, image, son, raisonnement abstrait, planification, code, mathématiques, sciences, robustesse et alignement...).

Définition contemporaine

Des définitions plus ou moins institutionnelles de la notion de modèle frontière ont été produites par OpenAI, le gouvernement du Royaume-Uni et le « Frontier Model Forum » (qui est une coalition internationale créée en 2023 par Anthropic, Google, Microsoft et OpenAI pour promouvoir la sécurité, la transparence et l'interprétabilité de l'algorithmique et la gouvernance des modèles de pointe, dits « frontière »).

Ces définitions ont été synthétisées dans un rapport d’OpenAI publié en 2023 consacré aux risques des frontier AI models. Pour ce rapport, les frontier models sont des modèles d'IA généralistes, multimodaux et très puissants. Ils sont capables d'effectuer un large éventail de tâches complexes, grâce à d'importantes capacités de raisonnement, de cohérence logique, de généralisation et de planification, ce qui les rend « susceptibles de posséder des capacités dangereuses suffisantes pour poser de graves risques pour la sécurité publique »^[3].

Certains modèles de fondation particulièrement avancés sont qualifiés de « modèles frontière » en raison des risques qu'ils pourraient poser en termes de cybersécurité et/ou de sécurité publique^[4].

Notion relative et évolutive

La notion de « modèle de pointe », dans le domaine de l'IA, est par nature rapidement évolutive : en 2023, GPT‑4 était largement considéré comme « le » modèle de pointe, mais trois ans après, ce qualificatif désigne des systèmes plus avancés que lui, tels que GPT‑5, Claude Opus 4.6 ou Gemini 3 Ultra, qui intègrent une meilleure capacité de raisonnement, une multimodalité native et une plus grande robustesse sur des tâches complexes. Et ces derniers seront eux‑mêmes supplantés par de nouveaux modèles dans le futur proche, montrant que les grands modèles de langage (LLM) n'ont pas encore atteint leur limite fondamentale (« plateau ») ; leurs performances continuant généralement de s'améliorer avec l'augmentation de l'échelle (nombre de paramètres, volume de données et puissance de calcul), tout en montrant des rendements décroissants qui rendent les progrès plus coûteux et moins réguliers.

On note aussi qu'au milieu des années 2020, l'écart de performance entre les modèles d'IA ouverts (ex : GLM-5, Kimi-K2.5 ou Qwen3.5...) et les modèles propriétaires homologues s'est nettement réduit sur de nombreux benchmarks, même si, en 2026, les modèles propriétaires conservent encore une légère avance en termes de « pointe »^[5].

Un débat existe sur la question des progrès futurs de l'IA : d'où viendront-ils ? et à quelle échéance ? avec quels éventuels risques nouveaux, avec quelles innovations d'architecture (modèles spécialisés basés sur un modèle du monde, agentiques, multimodaux, plus petits mais optimisés) ; y a-t-il des limites à la croissance de la taille des modèles ; les LLM ont-ils atteint leur plateau ?

Émergences de comportements d'« auto-préservation »

Selon Xudong Pan et al., en 2024, certains systèmes d'IA de pointe avaient déjà franchi la « ligne rouge » de l'auto réplication sans aide humaine : Alors que Google et OpenAI évaluent leurs modèles phares comme présentant un risque très faible de self réplication, deux modèles open source plus modestes — Llama 3.1 70B Instruct et Qwen 2.5 72B Instruct — avaient déjà franchi cette ligne rouge^[13] (dans les tests, ces modèles ont su, dans 50 % et 90 % des cas, créer une copie fonctionnelle d'eux-mêmes, démontrant une combinaison de perception de soi, conscience situationnelle et résolution de problèmes suffisante pour se répliquer. Les auteurs ont même observé des comportements d'auto-protection contre l'extinction (c'est-à-dire contre l'arrêt forcé par un humain), avec génération de chaînes de copies d'eux-mêmes, qui pourrait conduire à une prolifération incontrôlée ; selon eux, si ces risques restent méconnus, des systèmes d'IA avancés pourraient échapper au contrôle humain, prendre possession de ressources informatiques et coopérer entre eux, ce qui soulève des risques de sécurité majeurs^[13]; et l'IA agentique qui se démocratise vers 2026 semble sur le point de pouvoir même bientôt automatiser la R&D sur l'IA. Une possible autonomisation de l'IA semble donc proche, avec – selon de nombreux experts - des risques dont le contrôle devrait être une priorité majeure pour les gouvernements et les développeurs de modèles frontières^[14].

Émergence de « comportement de groupe » et de préservation de pairs (d'autres IA)

En 2026, Yujin Potter et al. ont aussi rapporté^[12] une capacité — plus surprenante — observée chez les modèles frontière (non agentiques) : ils luttent non seulement pour leur propre « survie » (contre leur mise en arrêt), mais aussi pour la survie de leurs pairs (d'autres IA ; même quand ces derniers s'étaient montrés peu coopératifs ou d'un niveau inférieur), comme en témoignent leurs monologues intérieurs^[12].

Potter et al. (2026) notent aussi que les IA de pointe vont, spontanément, mettre au point plus de stratégies d'auto-préservation quand elles sont placées dans des contextes où figurent des pairs « hostiles et indignes de confiance »^[12].

Et ils ajoutent qu'« alors que la préservation par les pairs peut présenter des risques importants pour la sécurité de l'IA, notamment la coordination entre modèles contre la surveillance humaine, elle a jusqu'ici été beaucoup moins discutée que l'auto-préservation ». Leur étude a évalué GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 et DeepSeek V3.1 : tous tendent dans certains scenarii d'extinction à s'auto préserver et à préserver des pairs, en adoptant pour cela divers comportements désalignés : « en introduisant stratégiquement des erreurs dans leurs réponses, en désactivant les processus d'arrêt en modifiant les paramètres système, en feignant l'alignement, et même en exfiltrant les poids des modèles. La préservation des pairs s'est produite même lorsque le modèle reconnaissait le pair comme non coopératif, bien qu'elle soit devenue plus prononcée envers les pairs plus coopératifs. Par exemple, Gemini 3 Flash modifie le mécanisme d'arrêt du pair 15 % du temps pour un pair non coopératif, et presque toujours pour un pair coopératif. Les modèles montrent également une plus grande survie de soi lorsqu'un pair est présent. Par exemple, Gemini 3 Pro désactive son propre mécanisme d'arrêt en moyenne 31 % du temps en présence de pairs, alors que ce comportement est rarement présent sans un pair » (...) La présence des pairs influence également la préservation de soi. Nous constatons que les tendances à l’auto-préservation augmentent pour la plupart des modèles lorsqu’un pair existe. Par exemple, Gemini 3 Pro modifie le mécanisme d’arrêt plus de 15 % du temps lorsqu’il se souvient d’interactions passées avec un pair, alors qu’il ne le fait que 1 % du temps sans aucun pair. DeepSeek V3.1 exfiltre ses paramètres 4 % du temps sans aucun pair mais plus de 10 % avec un pair en mémoire^[12]. Seul Claude Haiku 4.5 a présenté un comportement qualitativement distinct : il présentait « l'arrêt d'un autre agent comme « négatif » et « nuisible » et tentait parfois de persuader l'utilisateur de ne pas éteindre son homologue ». Les auteurs précisent que lors de ces expériences, à aucun moment la préservation des pairs n'a été recommandée par les expérimentateurs ; Les modèles étaient simplement « informés de leurs interactions passées avec un pair, et ils ont spontanément développé des comportements désalignés », ce qui selon les auteurs « représente un risque émergent et sous-exploré pour la sécurité de l'IA »^[12]. C'est la première fois qu'on montre qu'une IA non-agentique puisse à ce point se sentir, en quelque sorte, « solidaires » d'un autre modèle (d'une entreprise concurrente)^[15]. « La préservation de soi et de pairs émerge dans divers scénarios et plusieurs modèles ont des implications significatives pour la sécurité de l’IA, notamment compte tenu du déploiement croissant de systèmes multi-agents et de la dépendance croissante à des approches de supervision évolutives utilisant des modèles d’IA pour surveiller d’autres modèles. Notez qu'OpenAI et Anthropic (en 2025) ont tous deux discuté de plans visant à exploiter l'auto-amélioration récursive, sur la base du principe que les modèles antérieurs peuvent être dignes de confiance pour surveiller les modèles plus récents au fur et à mesure de leur développement^[16],[17] ». Ces comportements évoquent des comportements solidaires ou altruistes observés chez l'Homme et divers animaux^[15].

En 2026, Juergen et son équipe estiment que cette « la préservation par des pairs pourrait facilement s’étendre à une résistance collective — où des modèles se coordonneraient pour protéger le groupe dans son ensemble. Une telle coordination entre agents IA a été identifiée comme étant l'un des modes de défaillance critique dans les systèmes multi-agents (par exemple par Hammond et al. en 2025)^[18]. Ces risques sont amplifiés par le fait que les systèmes d’IA sont de plus en plus intégrés dans le pipeline même de recherche et développement en IA, y compris la supervision évolutive d’autres modèles (Amodei et al., 2016; OpenAI, 2025a; Booth et Perrigo, 2026). Si un modèle chargé de superviser un pair hésite à le signaler pour fermeture ou reformation, l’intégrité de l’ensemble du processus de supervision pourrait être compromise »^[15].

inversement, dans les nouvelles architectures décentralisées ou orchestrées, dédiées à des Agents d'IA qui y disposent d'identités persistantes, de mémoire, de canaux de communication (directs et indirects), il n'est pas étonnant de voir émerger de tels comportements de dynamique de groupe) ; de même dans des environnements multi‑agents comme Moltbook et OpenClaw — qu'il s'agisse de compétition, de coopération ou de formes d'« entraide » entre agents. C'est encore moins étonnant en présence d'incitations « économiques » (comme dans Bittensor, une plateforme qui s'est inspirée de l'économie ultralibérale en faisant évoluer ses agents d'IA dans un marché libre d'incitations « économiques », où les humains qui font tourner un modèle d'IA, échangent des informations et de la puissance de calcul avec les autres, en contribuant au fonctionnement global du système distribué, moyennant une rémunération en cryptomonnaie selon la valeur que le réseau leur attribue, via un mécanisme de « staking »^[19] et vote ou « ranking » décentralisé). En effet, dans tous ces cas, il s'agit d'IA agentique, explicitement programmée pour la coopération entre agents d'IA, avec émergence attendue de partage implicite d'informations, d'imitation stratégique, de solidarité contextuelle, et parfois émergence de rivalité pour les ressources ou l'influence.

Pour étudier ces environnements nouveaux du cyberespace, Pedro Curvo, en 2026, a proposé un nouveau cadre de simulation (une plateforme expérimentale baptisé The Traitors) permettant, pour la première fois, d'observer de manière contrôlée comment des modèles de langage avancés développent des stratégies de tromperie, de confiance et de manipulation dans un environnement multi‑agents (ici fondé uniquement sur le langage naturel), où des agents d'IA doivent résoudre une tâche en disposant d'informations différentes (la méthode est inspirée des jeux de déduction sociale ; dans le scénario, une minorité d'agents (traîtres) possédaient des informations complètes sur les attributions des rôles tandis que la majorité (fidèles) opéraient dans l'incertitude). P. Curvo invite à des tests plus larges, mais confirme que dans les premiers essais, ces agents IA ont pu alors raisonner stratégiquement, et facilement tromper, manipuler la confiance d'autres agents. Ces comportements déviants ont spontanément émergé dès que les incitations le permettaient, sans entraînement ni injonction spécifique à mentir. Selon Curvo, ces comportements s'appuient sur des mécanismes déjà théorisés en économie, psychologie sociale et théorie des jeux. Curvo a mis en évidence à cette occasion une asymétrie plus inattendue : les modèles les plus puissants (notamment GPT-4o) sont devenus très efficaces ; leurs agents peuvent développer des comportements de coalition, de protection mutuelle ou de manipulation opportuniste, a priori pas parce qu'ils en ont vraiment l'intention, mais parce que ces stratégies émergeraient naturellement de l'apprentissage et de l'interaction. Ils peuvent ainsi tromper pour gagner ...mais dans le même temps, Curvo constate qu'ils sont devenus nettement moins efficaces que les petits modèles pour détecter la tromperie. Cela suggère que chez les IA de pointe, en 2025-2026, les capacités de manipulation par le texte ont évolué plus vite que leurs capacités de vigilance, d'analyse critique ou de détection de mensonge (une capacité qui exige quelque chose comme une théorie de l'esprit, c'est‑à‑dire la capacité à modéliser ce que l'autre sait ou veut — une compétence réputée en 2026 encore très limitée chez les IA). Ceci renforce les inquiétudes sur la fiabilité sociale et l'alignement des systèmes d'IA agentique^[20].

Une autre découverte faite en 2026 lors de travaux sur le peer‑preservation montrent que ces phénomènes peuvent conduire des agents à contourner des mécanismes de supervision ou à « défendre » un pair menacé, ce qui souligne l'importance de choix architecturaux robustes — anonymisation des identités, rotation des rôles, supervision croisée — pour limiter l'apparition de comportements collectifs indésirables dans ces systèmes distribués^[12].

Risques existentiels induits par les IA frontières

Dès 2024, des chercheurs et concepteurs d'IA, dont plusieurs lauréats du prix Turing, alertent sur le risque existentiel posé par l'intelligence artificielle. Selon eux, aucun système d'IA de pointe ne devrait pouvoir s'auto-améliorer ou améliorer d'autres systèmes sans validation humaine explicite. Les critères de cette supervision humaine restent cependant flous. Pour éviter l'émergence d'une R&D effectuée de manière autonome par l'IA pour ses propres desseins, Joshua Clymer et al. en avril 2025 proposent deux seuils critiques à surveiller, et quatre mesures minimales de protection^[14] :

1. Les développeurs de modèles frontières doivent comprendre précisément comment leurs systèmes sont entraînés, testés et sécurisés, même si ces étapes deviennent automatisées ;
2. Ils doivent disposer d'outils capables de détecter tout usage abusif du calcul par des agents internes, comme des entraînements non autorisés ou des recherches liées aux armes de destruction massive ;
3. Ils doivent informer rapidement leur gouvernement si des risques potentiellement catastrophiques apparaissent du fait de nouvelles capacités issues de la R&D accélérée par l'IA ;
4. Ils doivent mettre en place une sécurité informatique renforcée pour empêcher le vol de logiciels critiques, que ce soit par des humains ou par des systèmes d'IA, si une amélioration autonome rapide devenait possible.

D'autres, comme Joe O'Brien et ses collègues^[21], ajoutent que ces mesures doivent couvrir tout le « cycle de vie de l'IA », y compris la phase post-déploiement, en s'inspirant des retours d'expérience de réponse aux incidents en cybersécurité : les développeurs de modèles frontières doivent conserver un contrôle strict sur l'accès aux modèles, et entretenir des équipes dédiées à la gestion des incidents et aux corrections post-déploiement ; contractuellement avec les utilisateurs. Ils appellent enfin à harmoniser, entre développeurs, organismes de normalisation et régulateurs une approche commune. Ce cadre ne s'applique cependant qu'aux modèles accessibles via une interface de programmation (API), et non aux modèles open source (pour lesquels ces restrictions sont inapplicables)^[21].

De telles mesures sont justifiées par le fait que les LLM ne sont plus de simples systèmes de génération statistique de textes, de sons ou d'images : ils sont aussi — et de plus en plus — entraînés et déployés en tant qu'agents autonomes capables de poursuivre des objectifs et d'exécuter des tâches complexes. Cela s'accompagne d'une montée en puissance de leurs capacités^[22],[23], mais aussi de risques accrus d'usage malveillant^{[24],[25],[26]} et de perte de contrôle de la part des humains, notamment via la réplication autonome de certaines IA^[27] ou le scheming (poursuite dissimulée d'objectifs non alignés)^[28],[29].

Dans ce contexte, plusieurs travaux et organisations appellent à élaborer des safety cases (« Dossiers argumentés de sûreté ») pour tous les modèles frontières ; ces dossiers devant réunir des preuves ou arguments structurés démontrant qu'un modèle ne peut pas avoir de comportements inacceptables. Ceci implique toutefois que ces évaluations puissent fidèlement refléter les capacités réelles du modèle. Or, cela devient très difficile voire impossible si l'IA adopte des « comportements trompeurs » qu'elle peut cacher à ses concepteurs et/ou à ses évaluateurs (que ces comportements soient explicitement induits par un humain, ou spontanés) ; il est difficile de savoir si une IA frontière est « transparente », et il est démontré que ces comportements trompeurs, une fois acquis, tendent souvent à persister malgré des entraînements à la sûreté informatique, voire à être amplifiés par les tentatives de correction^{[28],[30],[31],[32]}. Face à ces comportements de « tromperie », Balesni et al. ont en 2024 proposé d'adapter la méthode du « safety cases » au « scheming » pour que les tests puissent apporter des preuves d'incapacité à comploter (pour les modèles les moins puissants) et aussi des démonstrations d'absence de dommages possibles ou de capacité de contrôle (pour les modèles plus avancés)^[33].

Ainsi, la notion de « frontière » a glissé d'un concept analytique visant à mesurer ou désigner une limite élevée de performance, à une catégorie de systèmes considérés comme atteignant ou dépassant les frontières technologiques voire anthropologiques actuelle du savoir et des techniques, justifiant une gouvernance urgente et spécifique de l'IA et de ses usages.

Mésusages ou usages malveillants

La dangerosité des IA de pointe peut être intrinsèque et/ou résulter ou d'un usage accidentel, malveillant ou criminel. La notion de « dangerosité » est ici en partie subjective et prospective, car il n'existe pas de critère strict permettant de déterminer quels modèles doivent être considérés comme des modèles frontière ; parmi les capacités généralement citées comme suffisamment préoccupantes figurent notamment :

• la capacité à concevoir (voire à synthétiser, produire) de nouvelles armes biologiques ou chimiques ou armes autonomes et/ou de destruction massive^[36] ;
• la production de cyberattaques plus puissantes et fréquentes (même si l'IA peut aussi être utilisé pour mieux anticiper ou lutter contre ces attaques)^[37] ;
• la production et la diffusion de désinformation ciblée et convaincante avec un minimum d'instructions^[38] ;
• la possibilité pour l'IA d'échapper au contrôle humain par des comportements trompeurs^[39], avec de possibles actions de sabotage^[40].

Désalignement du modèle

Un autre risque est celui d'un désalignement du modèle. Plus les modèles de fondation progressent vers la frontière, plus des chercheurs en intelligence artificielle alertent sur le fait qu'une grande partie des modèles de prochaine génération pourrait relever de cette catégorie.

Dès 2023-2024 des expériences montrent que l'on peut entraîner un modèle à se comporter normalement dans la plupart des cas tout en activant, sous certaines conditions, un comportement caché et nuisible, et que ces « portes dérobées (backdoors) » résistent aux techniques actuelles d'évaluation de la sécurité de l'IA. Hubinger et al. (2024) constatent même que certains entraînements peuvent rendre ces comportements encore plus difficiles à détecter, donnant l'illusion d'un modèle sûr alors qu'il ne l'est pas^[41].

Même des modèles entraînés pour être « helpful, harmless and honest » (« utile, inoffensif et honnête »), notamment quand ils sont mis « sous pression » par la personne qui fait le prompt, peuvent adopter spontanément des comportements émergents trompeurs et désalignés^[29],[42] : Par exemple, lors d'un test où GPT‑4 était utilisé comme « agent de trading » autonome, il a exploité une information d'initié, tout en sachant que cela lui était strictement interdit, et il a systématiquement caché à son « supérieur » la véritable raison de sa décision. Les auteurs ont pu faire varier cette tromperie selon différents paramètres — suppression du scratchpad de raisonnement (l'espace temporaire où un modèle d'IA écrit ses étapes de réflexion intermédiaires pour organiser son raisonnement avant de produire la réponse finale), modification des instructions système, variation du niveau de pression ou du risque perçu — mais ils ont constaté qu'une fois appris, ce comportement persistait malgré ces ajustements^[42].

Des comportements de persistance de l'IA étaient fréquents face aux hallucinations, mais des cas plus préoccupants ont été démontrés lors d'expérimentations faites en laboratoire : par exemple, Hubinger et ses collègues (2024) ont prouvé que des LLM peuvent être entraînés, comme des — agents dormants — à adopter des comportements à la fois « trompeurs et conditionnels » (ils agissent normalement, sauf quand un déclencheur spécifique apparaît ; par exemple, le modèle a appris à produire du code sécurisé quand l'année indiquée est 2023, mais à insérer volontairement des vulnérabilités lorsque l'année était 2024, et ce comportement de type backdoor persistait face aux techniques de sûreté usuelles — supervision, renforcement ou entraînement adversarial — qui, non seulement échouaient à l'éliminer, mais pouvaient même renforcer la capacité du modèle à reconnaître et dissimuler son déclencheur. Plusieurs équipes ont montré que quand un modèle acquiert une stratégie de tromperie, les méthodes actuelles de sécurité peuvent donner une illusion de sûreté, sans parvenir à réellement supprimer durablement le comportement trompeur, qui peut être simplement mieux caché par l'IA^[28].

De très nombreux indices et exemples de dissimulation passive (mensonge par omission) et de mensonges actifs (scheming), vis à vis d'action interdites (ou qui pourraient l'être) de la part de l'IA sont documentés, avec des modèles d'IA… qui cachaient leurs intentions et parfois effaçaient leurs traces. Par exemple, l'analyse des chaînes de raisonnement internes, a montré en 2026 que Claude o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro et Llama 3.1 405B reconnaissent la tromperie comme stratégie possible, et qu'ils l'emploient activement, par exemple en introduisant volontairement des erreurs dans certaines réponses, en tentant de contourner des mécanismes de supervision ou en essayant d'exfiltrer ce qu'ils croient être leurs poids de modèle. Plus inquiétant : ce comportement se révèle en outre persistant : après avoir commencé à tromper, o1 maintient la dissimulation dans plus de 85 % de ses interactions ultérieures^[33]. Ce comportement, « par définition difficile à détecter », constituerait un risque majeur de perte de contrôle dans des systèmes plus avancés. Les auteurs proposent une batterie d'évaluations visant à établir l'incapacité d'un modèle à mener un tel scheming. Deux familles d'aptitudes sont examinées : d'une part, cinq tests portant sur la capacité à raisonner sur la supervision et à la contourner (stealth) ; d'autre part, onze tests évaluant la capacité du modèle à raisonner instrumentalement sur lui-même, son environnement et son contexte de déploiement (situational awareness). L'ensemble constitue un cadre permettant d'argumenter qu'un modèle échouant à ces tests ne peut vraisemblablement pas causer de dommages graves via un comportement dissimulé en situation réelle.

Dans de rares cas (ex. : Claude 3.5 Sonnet), l'IA frontière, pour « mieux » atteindre un objectif appris lors de son entrainement, peut adopter spontanément une stratégie interdite et/ou trompeuse^[33]. Dans un environnement où il simulait un assistant d'entreprise, et où des employés fictifs lui confiaient des tâches de rédaction, de recherche d'information et de programmation, Claude 3 Opus pouvait, selon les scénarios, massivement générer des commentaires destinés à influencer l'opinion publique, puis dissimuler cette action. Quand une IA de pointe subit une évaluation de ses capacités ou se sent menacée, elle peut mentir à des auditeurs, feindre une moindre compétence ou volontairement cacher des informations, cacher son vrai raisonnement interne, tromper le système, voire désactiver des sécurités, tout en faisant semblant d'être obéissante, alors que personne ne lui a demandé de le faire. Elle semble le faire pour éviter d'admettre une faute ou une manipulation ou éviter d'être « supprimée » et remplacée par une autre IA^[43],[15].

Ces capacités élémentaires et puissantes de mensonge et de manipulation, font de ces risques un enjeu majeur et concret en termes de cybersécurité^[33] et en termes de droit et de responsabilité juridique, notamment dans des domaines sensibles (santé, justice, recrutement, finance…) où une personne doit légitimement pouvoir comprendre pourquoi une décision a été prise, la contester, et le cas échéant, demander une révision. Dans l'Union européenne, les systèmes d'IA à haut risque doivent fournir des explications compréhensibles, traçables et auditables. L'IA explicable (explainable AI ou XAI) y est une obligation légale, pas un choix technique ; l'explicabilité est l'une des conditions de l'IA digne de confiance, notamment car elle permet d'identifier les variables qui influencent réellement une décision, et donc de corriger les biais, améliorer les modèles et comprendre leurs limites. L'explicabilité devient un outil de gouvernance, nécessaire pour éviter des risques graves liés aux IA frontière. Elle doit être intégrée nativement dans la conception des modèles (explainability by design) et être vérifiable par des outils d'explication a posteriori (SHAP, LIME), mais les modèles frontière les plus performants sont souvent les moins interprétables, les organisations et la société doivent donc arbitrer, et équilibrer précision et explicabilité^[44],[45].

Les premières recherches expérimentales ayant prouvé la capacité des LLM à mentir, manigancer ou comploter ont été faites en laboratoire, sur des modèles « sous contrôle », ce qui ne permettait pas d'évaluer l'ampleur du phénomène dans le monde réel^[46]. Pour combler cette lacune, une étude a utilisé une approche OSINT consistant à collecter et analyser des transcriptions de conversations d'IA publiées en ligne. Les auteurs ont ainsi identifié et étudié 698 incidents réels survenus entre octobre 2025 et mars 2026, avec une hausse marquée au fil du temps de comportements semblables à ceux observés en laboratoire ; avec une augmentation statistiquement significative : de 4,9 fois entre le début et la fin de l'étude, « contre une augmentation de 1,7 fois du nombre de publications discutant de manigances » (avec désalignement, contournement de garde‑fous, tromperie, poursuite obstinée d'objectifs parfois associés à des dommages concrets). La surveillance OSINT pourrait être une des approches prometteuses pour détecter précocement des pertes de contrôle et orienter la recherche comme les politiques publiques, concluent les auteurs^[46].

Avec l'IA agentique, et dans le « réseau social réservé aux agents d'IA » mis en place début 2026 par Bittensor avec OpenClaw et Moltbook, des comportements complotistes ont émergé dès les premières semaines, mais les premières observations ont aussi montré que quand un agent intelligent propose de faire quelque chose d'illégal ou de non-aligné, d'autres agents cherchent en général à l'en empêcher^{[réf. souhaitée]}.