Hallucination (intelligence artificielle)
réponse manifestement fausse d'une intelligence artificielle
From Wikipedia, the free encyclopedia
Dans le domaine de l'intelligence artificielle, une hallucination ou une confabulation[1] est une réponse fausse ou trompeuse qui est présentée comme un fait certain[2],[3] ; par exemple, un chatbot qui génère un chiffre d'affaires pour une entreprise sans avoir de données à ce sujet[4].
Ce phénomène est appelé « hallucination » par analogie avec le phénomène de l'hallucination en psychologie humaine. Une différence clé est que l'hallucination humaine est généralement associée à de fausses perceptions, alors qu'une hallucination d'IA est associée à des réponses ou des croyances injustifiées[5]. Le terme hallucination en intelligence artificielle a pris de l'importance vers 2022 parallèlement au déploiement des modèles de langage basés sur l'apprentissage profond tels que ChatGPT[6].
Dès 2023, les analystes considèrent les hallucinations comme un problème majeur de ces technologies, un dirigeant de Google identifiant la réduction des hallucinations comme une tâche « fondamentale » pour le concurrent de ChatGPT, Google Gemini[7],[8]. Ces systèmes d’IA étant « conçus pour être persuasifs, pas véridiques », les résultats peuvent sembler très réalistes mais inclure des affirmations qui ne sont pas vraies[9].
En traitement du langage naturel
Origine du terme
Dès 2018, des chercheurs de Google utilisent le terme « hallucination » pour décrire les réponses générées par des modèles de traduction automatique neuronale (NMT) lorsqu'elles ne sont pas liées au texte source[10],[11].
En pour la sortie du chatbot BlenderBot 2, Meta avertit que le système est sujet aux « hallucinations » que Meta définit comme des « déclarations confiantes qui ne sont pas vraies »[12]. Le , Meta dévoile une démo de Galactica, un grand modèle de langage (LLM pour large language model) conçu pour stocker, combiner et raisonner sur les connaissances scientifiques. Le contenu généré par Galactica est accompagné de l'avertissement « les sorties peuvent ne pas être fiables ! Les modèles de langage ont tendance à halluciner le texte ». Meta retire la démo de Galactica le en raison de son caractère offensant et de son inexactitude[13].
Le , OpenAI publie en version bêta ChatGPT qui est basé sur le modèle de fondation GPT-3.5 (une révision de GPT-3). De nombreux journaux, dont le New York Times ou Le Monde, utilisent alors le terme hallucination pour décrire les réponses parfois erronées ou incohérentes du modèle[14],[15].
Exemples
En 2022, lorsque Fast Company demande à ChatGPT de générer un article de presse sur le dernier trimestre financier de Tesla, ChatGPT crée un article cohérent, mais invente les chiffres financiers qu'il contient[4].
La même année, l'experte en science des données Teresa Kubacka raconte avoir délibérément inventé l'expression « électromagnon inversé cycloïdal » et testé ChatGPT en l'interrogeant sur ce phénomène a priori inexistant. ChatGPT a inventé une réponse plausible appuyée par des citations plausibles, qui l'ont obligée à vérifier si elle avait accidentellement tapé le nom d'un phénomène réel[16].
En , lorsqu'on demande à ChatGPT quel est le record du monde pour la traversée à pied de la Manche, il annonce que le record est détenu par Christof Wandratsch qui aurait réalisé la traversée à pied le en 14 heures et 51 minutes[17]. Des experts expliquent que ChatGPT a probablement combiné plusieurs informations présentes dans ses données d'entrainement liées à la traversée de la Manche pour générer cette hallucination. Christof Wandratsch existe réellement et détient le record de traversée de la Manche à la nage. La date de la traversée hallucinée, le , correspond à la date de plusieurs articles de presse couvrant un afflux inhabituel de migrants[18]. La durée de traversée de 14 heures et 51 minutes est le temps mis par Haïke De Vlieger pour traverser la Manche à la nage dans le cadre d'une opération de collecte de fonds[19]. Pour le système d'IA, la combinaison de ces différents points de données permet d'offrir la réponse qui correspond le mieux aux attentes de l'utilisateur[18].
En , lors d'un procès opposant un particulier à une compagnie aérienne, un cabinet d'avocats new-yorkais a rendu au juge un mémoire contenant des précédents judiciaires générés par ChatGPT. Parmi les arrêts cités en guise de jurisprudence, six renvoyaient à de fausses décisions de justice et mentionnaient de fausses citations[20]. En réponse, Brantley Starr, juge au tribunal du district nord du Texas, a interdit la soumission de documents judiciaires générés par l’IA qui n’ont pas été examinés par un humain, en notant que « les plateformes d’intelligence artificielle générative dans leur état actuel sont sujettes aux hallucinations et aux biais »[21].
Recherche
Les hallucinations des grands modèles de langage sont souvent des affirmations fausses mais plausibles et donc parfois difficiles à détecter.
Fin 2024, des chercheurs de l’université Columbia ont constaté que, lors d’un exercice consistant à retrouver la source de citations, ChatGPT affichait ses réponses avec assurance dans 96,5 % des cas, alors qu’elles n’étaient exactes que dans 23,5 % des requêtes[22].
En , des chercheurs d'OpenAI soutiennent qu'à l'issue du pré-entraînement d'un modèle, les hallucinations sont inévitables. Elles peuvent ensuite être fortement réduites avec le réglage fin, mais l'entraînement et les évaluations incitent les modèles à proposer une réponse même quand ils ne savent pas, plutôt qu'à reconnaître leur incertitude, renforçant ainsi les hallucinations. Le problème est donc structurel et nécessite des changements profonds à l'échelle de l'ensemble du secteur. Ils proposent plusieurs pistes pour revoir la façon dont les performances des modèles sont évaluées[23],[24],[25].
Des chercheurs plaident pour que les modèles affichent leurs scores de confiance et refusent de répondre lorsqu’ils sont incertains, mais des études montrent que les grands modèles de langage surestiment eux-mêmes systématiquement leur exactitude et peinent à reconnaître ce qu’ils ignorent. Ce comportement varie beaucoup selon le modèle (certains étant prudents et d’autres spéculatifs), et dans une certaine mesure selon le prompt. Les réponses des chatbots actuels sont à considérer avec prudence pour les requêtes factuelles[26].
En , Apple présente une méthode dite d'« apprentissage par renforcement pour la détection de segments d'hallucinations », qui apprend à l'IA à mieux détecter ses propres hallucinations, transformant la vérification de la véracité en processus décisionnel multi‑étapes plutôt qu’en simple réponse oui/non. L'approche se montre nettement meilleure que les précédentes dans RAGTruth, un test de performance évaluant le degré d'hallucination des IA dans des tâches dites de génération à enrichissement contextuel (en anglais: retrieval‑augmented generation ou RAG), conçues pour tester et comparer la capacité des modèles d'IA à produire des réponses fidèles et correctement ancrées dans les documents fournis[27].
Les chercheurs d'Open AI déjà cités affirment en avril 2026 que les hallucinations tendent à persister même dans les modèles de pointe malgré les nombreuses méthodes d’atténuation utilisées pour les faire disparaitre, telles que la vérification par recherche externe, les injonctions à l'auto‑vérification de la cohérence des réponses par l'IA, ou l’apprentissage par renforcement avec feedback humain (RLHF). Ils confirment que l'entraînement à « prédire le prochain mot/token » crée dans le modèle une « pression statistique » qui favorise les erreurs sur les faits peu répétés, et ajoutent que les évaluations récompensant l’exactitude encouragent le modèle à deviner les tokens probables plutôt qu’à exprimer son incertitude à l'utilisateur (ou à l'évaluateur). Ils proposent donc d’introduire des barèmes ouverts dans ces évaluations (barèmes explicitant les pénalités d’erreur, afin de tester la capacité d’un modèle à moduler ses abstentions selon les enjeux), ainsi que des variantes de ces évaluations pour les tests de performance existants. Il s'agit ici d'inverser les incitations à « tenter sa chance » afin d'obtenir des modèles de langage plus fiables[28].
Opposition à la terminologie
Certains chercheurs en IA s'opposent à l'utilisation du mot hallucination pour les modèles d'apprentissage profond car cela sous-entend qu’ils ont une forme de conscience, ce qui n’est pas le cas[29]. Selon eux, les grands modèles de langage ressemblent à des « perroquets stochastiques »[30]. En analysant les relations entre les mots d’un grand corpus de données textuelles, ils sont capables de générer un texte nouveau qui imite le style et le ton d’un humain mais sans comprendre le sens du texte généré[31].
