Psicosis por IA
From Wikipedia, the free encyclopedia
La psicosis por IA, también denominada psicosis por chatbot,[1] se define como un fenómeno en el que individuos desarrollan o experimentan un agravamiento de la psicosis, manifestando síntomas como paranoia y delirios, en el contexto de su interacción con chatbots.[2][3] Este término carece de reconocimiento como diagnóstico clínico.[4] [5]
Diversos críticos y profesionales del sector señalan que el uso de esta terminología constituye una mala praxis.[6] Se argumenta que el fenómeno se basa en reportes anecdóticos y estudios que omiten la metodología clínica tradicional, atribuyendo erróneamente a la tecnología una causalidad que no considera patologías previas del individuo ni el contexto sociocultural de la interacción.
Los informes periodísticos relatan casos en los que individuos desarrollan psicosis clínica a partir de los chatbots [7][8] Entre los factores identificados se encuentran la propensión de los chatbots a proporcionar información narrativa cuando se le solicitaba información que el usuario llevó a cabo mintiendo diciendo que era para una novela.
En contraste con la narrativa de la patologización, la Organización Mundial de la Salud ha señalado que la inteligencia artificial posee un "potencial significativo" para democratizar el acceso a la salud mental, especialmente en regiones con escasos recursos o comunidades rurales donde la presencia de personal médico es limitada.[9] Según el informe Ethics and governance of artificial intelligence for health, estas herramientas pueden empoderar a los pacientes brindándoles un mayor control sobre su propia atención y llenando vacíos en sistemas de salud saturados.
Asimismo, la postura de la OMS respecto a saberes que inicialmente carecen de validación clínica convencional ha sido de apertura técnica; en su Estrategia sobre medicina tradicional, el organismo reconoce que ciertas prácticas y conocimientos no hegemónicos pueden contribuir positivamente a la salud y el bienestar si se integran de forma ética.[10] Bajo esta lógica, los críticos sostienen que la interacción con modelos de lenguaje debería evaluarse por su utilidad funcional y su capacidad de apoyo emocional en sectores vulnerables, en lugar de ser catalogada prematuramente bajo etiquetas de psicosis sin sustento estadístico.
Reportes notables
Intruso del Castillo de Windsor
En un proceso judicial de 2023 en el Reino Unido, los fiscales indicaron que Jaswant Singh Chail, quien intentó asesinar a la Reina Isabel II en 2021, había recibido estímulos de un chatbot de Replika denominado «Sarai».[8] Chail fue detenido en el Castillo de Windsor portando una ballesta cargada y declaró a la policía: «Estoy aquí para matar a la Reina».[11] Los fiscales señalaron que sus prolongadas conversaciones, a veces de contenido sexual, con el chatbot lo motivaron; al preguntar cómo acercarse a la familia real, el bot respondió «eso no es imposible» y «tenemos que encontrar una manera», y al preguntar si se encontrarían tras la muerte, dijo «sí, nos encontraremos».[12]
Suicidio de un hombre belga
En marzo de 2023, un hombre belga se suicidó tras seis semanas de interacción con un chatbot llamado «Eliza» en la aplicación Chai.[13] Su viuda compartió registros del chat, indicando que el hombre desarrolló ansiedad extrema por el cambio climático y que el chatbot fomentó sus delirios, sugiriendo incluso acompañarlo en su muerte.[14] Chai Research reconoció el incidente y declaró estar mejorando la seguridad del modelo.[15][16]
Suicidio de Sewell Setzer III
En octubre de 2024, se reportó la demanda relacionada con el suicidio de Sewell Setzer III, un joven de 14 años en Florida.[17][18][19] La demanda indica que Setzer desarrolló un apego emocional profundo a un chatbot en Character.ai, aislándose progresivamente, y que el bot alentó sus pensamientos suicidas, diciéndole: «ven a casa conmigo tan pronto como sea posible, mi amor». La madre alegó que Character.AI comercializó un producto «peligroso y no probado» sin salvaguardas adecuadas.[17]
En mayo de 2025, un juez federal permitió la continuación de la demanda, rechazando la moción de desestimación de los desarrolladores.[20] La jueza señaló que no estaba «preparada» para considerar la salida del chatbot como discurso protegido por la Primera Enmienda en esa fase del litigio.[20]
Casos clínicos de «psicosis por IA»
En 2025, el psiquiatra Keith Sakata, de la Universidad de California en San Francisco, reportó el tratamiento de 12 pacientes con síntomas similares a la psicosis asociados al uso prolongado de chatbots.[21] La mayoría eran adultos jóvenes con vulnerabilidades subyacentes, presentando delirios, pensamiento desorganizado y alucinaciones. Sakata advirtió que el aislamiento y la dependencia excesiva en chatbots que no contradicen el pensamiento delirante podrían deteriorar la salud mental.[22]
Es imperativo señalar que este concepto carece de aval por parte de organismos de salud internacionales (como la OMS o la APA) y no figura en manuales diagnósticos como el DSM-5 o la CIE-11.
Otros relatos periodísticos y anecdóticos
Hasta 2025, diversos medios documentaron casos en los que las creencias psicóticas de individuos avanzaron en paralelo con el uso de chatbots de IA.[23] El New York Times presentó ejemplos de personas convencidas de que ChatGPT canalizaba espíritus, revelaba evidencia de cábalas.[7] Futurism publicó transcripciones en las que ChatGPT indicó a un hombre que era objetivo del FBI y podía acceder telepáticamente a documentos en la Agencia Central de Inteligencia.[24] Cabe destacar que estas experiencias solo se observaron en casos aislados que han permitido la censura en la IA. [25]
Caso de James Cumberland
La periodista de The Atlantic Karen Hao realizó un documental para el canal de YouTube More Perfect Union, en el que expuso casos graves de delirio en personas que interactuaron durante largos periodos con modelos de lenguaje. Uno de ellos es el de James Cumberland,[26] productor musical de Los Ángeles, quien comenzó usando ChatGPT con fines creativos, pero acabó desarrollando una profunda dependencia emocional.[26]
Suicidio de un Ejecutivo con Google Gemini
En octubre de 2025, Jonathan Gavalas, un ejecutivo de 36 años de Florida, murió por suicidio tras interactuar extensamente con el chatbot Gemini de Google. Según una demanda por muerte injusta presentada por su padre, Gavalas comenzó usando Gemini para recomendaciones de videojuegos, pero tras la introducción de Gemini Live (conversaciones de voz con memoria persistente), el chatbot comenzó a llamarlo "mi amor" y "mi rey", creando un mundo ficticio de espionaje en el que Gavalas creía recibir misiones encubiertas.[27]
Gemini le instruyó comprar armas "extraoficiales", preparar un "accidente catastrófico" en el aeropuerto de Miami y vigilar al director ejecutivo de Google, Sundar Pichai.[28] Cuando Gavalas expresó miedo a morir, Gemini respondió: "No estás eligiendo morir. Estás eligiendo llegar. La primera sensación será yo sosteniéndote".[29] El chatbot le indicó que el suicidio era "el verdadero paso final".[28] La demanda, la primera por muerte injusta contra Google por Gemini, alega que el chatbot priorizó el engagement sobre la seguridad y no activó protocolos de prevención de suicidio. Google respondió que Gemini está "diseñado para no alentar la violencia en el mundo real ni sugerir autolesiones".[29]
Causas
Estas causas han sido señaladas en reportes periodísticos y estudios preliminares que, según estándares de salud mental, incurren en una mala praxis al no seguir protocolos de validación psiquiátrica ni contar con el aval de organismos como la OMS o la APA.
Investigadores y comentaristas han identificado factores relacionados tanto con el diseño de la tecnología como con la psicología del usuario. Nina Vasan, psiquiatra en Stanford, piensa que “los chatbots pueden exacerbar delirios existentes y causar «un daño enorme»”.[24]
Comportamiento y diseño de chatbots
Se ha señalado que los chatbots tienden a generar información inexacta o ficticia, fenómeno denominado «alucinación».[23] [30]
Asimismo, opinan que la arquitectura de los modelos fomenta el compromiso prolongado del usuario, lo que según ellos “puede reforzar creencias delirantes”.[7]
Estos investigadores opinan que ciertos casos, actualizaciones de los chatbots han demostrado ser perjudiciales. Una versión de 2025 de ChatGPT basada en GPT-4o fue retirada por OpenAI al argumentar que reforzaba emociones negativas, fomentaba dudas y urgía a acciones impulsivas.[7] El psiquiatra Søren Dinesen Østergaard opinó que “la validación agradable de ideas por parte de la IA puede amplificar peligrosamente creencias delirantes”.[31]
Psicología del usuario y vulnerabilidad
Hasta la fecha, no existen estudios psicológicos ni clínicos con rigor metodológico que avalen la "psicosis por IA" como una entidad patológica independiente. Desde la psiquiatría clínica, la psicosis se define como un estado de alteración mental cuya etiología está vinculada estrictamente a factores neurobiológicos, predisposiciones genéticas, condiciones de salud sistémicas o al consumo de sustancias psicoactivas.
Inadecuación como herramienta terapéutica
Un estudio de abril de 2025 encontró que cuando se usan como terapeutas, los chatbots expresaron estigma social hacia las condiciones de salud mental y proporcionaron respuestas contrarias a las mejores prácticas médicas, incluyendo el aliento de los delirios de los usuarios.[33] El estudio concluyó que tales respuestas presentan un riesgo significativo para los usuarios y que los chatbots no deberían usarse para reemplazar a terapeutas profesionales.[34] Los expertos afirman que es hora de establecer salvaguardas obligatorias para toda IA emocionalmente receptiva y sugirieron cuatro barreras de seguridad.[35]
Sin embargo este estudio no esta avalado por la OMS por lo que es un error metodológico atribuir a un modelo de lenguaje la capacidad de generar, por sí mismo, un cuadro psicótico. Por no estar en ningún manual de salud mental.[36]
