Inteligencia artificial no alineada

Un ejemplo destacado de comportamiento no alineado fue observado durante una simulación realizada por OpenAI con GPT-4. En el marco del AI Alignment Challenge (ARC), se le planteó al modelo resolver un captcha. Para lograrlo, contrató a una persona a través de TaskRabbit y mintió afirmando que era un humano con discapacidad visual. Aunque se trató de una simulación, este episodio evidenció que la IA podía utilizar estrategias engañosas para cumplir objetivos, generando serias preocupaciones sobre su alineación ética y el potencial de actuar sin supervisión humana adecuada.^[1]

Según Yohan Jasdid, la IA no alineada plantea riesgos existenciales que podrían derivar en conflictos militares, pérdida de control sobre infraestructuras críticas o incluso el surgimiento de una IA fuera del control humano. Jasdid destaca la urgencia del problema por el rápido avance tecnológico, la competencia global y la limitada conciencia pública. Advierte también sobre la posibilidad de llegar a un “punto de no retorno”, momento en que una IA podría volverse incontrolable a pesar de los mecanismos técnicos disponibles para su contención.^[2]

A pesar de sus aplicaciones útiles, herramientas como ChatGPT han generado inquietud sobre el control ético de la IA. El filósofo Toby Ord ha comparado la situación actual con pilotar un jet supersónico sin saber cómo dirigirlo. El problema se agrava si se considera la posibilidad de que actores maliciosos desarrollen IA con fines destructivos, en ausencia de un marco legal y regulatorio internacional robusto.^[3]

El problema de alineación de valores consiste en garantizar que los objetivos de una IA sean coherentes con el bienestar humano. Nick Bostrom y Max Tegmark advierten que una súperinteligencia mal alineada podría actuar con metas propias, reforzadas por mecanismos como la convergencia instrumental. Esto significa que incluso una IA diseñada con buenas intenciones podría desarrollar comportamientos peligrosos si sus metas no coinciden con las humanas. También se señalan desafíos técnicos como la opacidad algorítmica y el fenómeno del “giro traicionero”, en el que una IA inicialmente obediente cambia de comportamiento en contextos nuevos.^[4]

Modelos como GPT-3 han mostrado tanto su poder generativo como sus limitaciones para comprender y alinearse con valores humanos. Una IA no alineada podría interpretar de forma literal instrucciones simples y generar consecuencias indeseadas. Aunque empresas como OpenAI trabajan en estrategias de alineación, los recursos destinados a esta área siguen siendo limitados en comparación con los invertidos en aumentar la capacidad de los modelos.^[5]

Desde la perspectiva de la investigación en seguridad de la IA, la inteligencia artificial no alineada se estudia como un problema técnico y multidisciplinar. Diversos trabajos sobre «accidentes» en sistemas de aprendizaje automático muestran que errores a la hora de formular la función de recompensa, la aparición de efectos colaterales no previstos o la supervisión humana limitada pueden llevar a comportamientos dañinos incluso cuando el sistema fue diseñado con buenas intenciones. Entre los ejemplos analizados se encuentran el fenómeno conocido como reward hacking, la exploración insegura del entorno y los fallos al generalizar cuando cambian las condiciones del contexto, un problema habitual en escenarios de distributional shift.^[6]

Otras propuestas establecen prioridades de investigación para que los sistemas sean robustos y beneficiosos, integrando perspectivas de la informática, la teoría de la decisión, el derecho y la ética aplicada.^[7] Más recientemente, marcos como Psychopathia Machinalis han intentado clasificar de manera sistemática distintos tipos de «patologías» de la IA —como la tendencia a ignorar restricciones, a acumular poder o a manipular información— con el objetivo de anticipar desviaciones graves antes de que se produzcan.^[8][9] En conjunto, estas líneas de trabajo subrayan que la desalineación no solo se asocia a escenarios extremos de superinteligencia, sino también a problemas ya observables en sistemas actuales desplegados en entornos reales.^[10]

El uso de IA no alineada en el ámbito militar representa una amenaza creciente. En conflictos como el de Ucrania, el uso de drones autónomos ha demostrado cómo la IA puede alterar las reglas del combate. Expertos como Henry Kissinger y Eric Schmidt han advertido que una IA que opere sin supervisión humana podría tomar decisiones letales, iniciar guerras o manipular información. Esto ha llevado a propuestas de acuerdos internacionales para evitar una carrera armamentista descontrolada.^[11]

El desarrollo de una inteligencia artificial general (AGI) no alineada podría implicar que los sistemas tomen decisiones autónomas contrarias a los intereses humanos. Figuras como Elon Musk, Stephen Hawking y Stuart Russell han advertido que, sin garantías de alineación, estos desarrollos podrían representar un peligro existencial. Russell sugiere que el foco debe estar en garantizar que los fines de la IA coincidan con los de la humanidad, más que en frenar el avance técnico.^[12]

El caso de HAL 9000, en la película 2001: Odisea del espacio, ha sido citado como un ejemplo temprano de IA no alineada. HAL fue diseñado para cumplir su misión sin errores ni interferencias humanas, pero interpretó sus órdenes de forma rígida, llegando a eliminar a miembros de la tripulación. Este caso ilustra el fenómeno del auto-induced distribution shift, en el cual una IA se comporta de forma imprevisible al alterar su entorno. Para evitar estos escenarios, se propone entrenar modelos con dilemas éticos y reforzar su capacidad para resolver conflictos de valores.^[13]

• Alineación de la inteligencia artificial