Superintelligence: Paths, Dangers, Strategies
Superintelligence: Paths, Dangers, Strategies es un libro escrito por el filósofo Nick Bostrom en 2014. Explora las maneras en las que se podría crear la superinteligencia, y cuáles podrían ser sus características y motivaciones. Sostiene que, de crearse, la superinteligencia sería difícil de controlar y podría apoderarse del mundo para lograr sus objetivos. El libro también muestra estrategias para ayudar a crear superinteligencias cuyos objetivos beneficien a la humanidad. Fue particularmente influyente por suscitar preocupaciones acerca del riesgo existencial de la inteligencia artificial.
From Wikipedia, the free encyclopedia
Paths, Dangers, Strategies
| Paths, Dangers, Strategies | |||||
|---|---|---|---|---|---|
| de Nick Bostrom | |||||
| Subgénero | Filosofía, Divulgación científica | ||||
| Tema(s) | Inteligencia artificial | ||||
| Edición original en inglés | |||||
| Título original |
Superintelligence: Paths, Dangers, Strategies | ||||
| Editorial | Oxford University Press[1] | ||||
| País | Reino Unido, Estados Unidos | ||||
| Fecha de publicación |
3 de julio de 2014 (Reino Unido) 1 de septiembre de 2014 (Estados Unidos) | ||||
| Serie | |||||
| |||||
Superintelligence: Paths, Dangers, Strategies es un libro escrito por el filósofo Nick Bostrom en 2014. Explora las maneras en las que se podría crear la superinteligencia, y cuáles podrían ser sus características y motivaciones.[2] Sostiene que, de crearse, la superinteligencia sería difícil de controlar y podría apoderarse del mundo para lograr sus objetivos. El libro también muestra estrategias para ayudar a crear superinteligencias cuyos objetivos beneficien a la humanidad.[3] Fue particularmente influyente por suscitar preocupaciones acerca del riesgo existencial de la inteligencia artificial.[4]
Se desconoce si la inteligencia artificial a nivel humano llegará en cuestión de unos años o de varios siglos. Independientemente de ello, una vez que lo haga, lo más seguro es que rápidamente se desarrolle un sistema “superinteligente” que supere con creces el rendimiento cognitivo de los seres humanos en prácticamente todos los ámbitos de interés. Una superinteligencia de esta escala sería muy difícil de controlar.
Aunque los objetivos de las superinteligencias podrían variar enormemente, una superinteligencia funcional desarrollará como subobjetivos naturales: "objetivos instrumentales" como la autoconservación y la integridad del contenido de sus objetivos, la mejora cognitiva y la adquisición de recursos. Por ejemplo, un agente cuyo único objetivo es el de resolver la hipótesis de Riemann (una famosa conjetura matemática aun sin resolver) podría plantearse y seguir el objetivo de transformar a toda la Tierra en computronio (un material hipotético optimizado para la computación) para asistir con el cálculo. La superinteligencia se resistiría de forma proactiva a cualquier intento externo de apagarla o de evitar que consiga su subobjetivo. Para prevenir tal catástrofe existencial, es necesario resolver el "problema de control de la IA" antes de que llegue la primera superinteligencia. La solución podría consistir en asignar a la superinteligencia objetivos compatibles con la supervivencia y el bienestar humano. Resolver el problema del control es sorprendentemente difícil debido a que la mayoría de los objetivos conducen a consecuencias imprevistas e indeseables cuando se traducen a código implementable en una máquina.
El búho en la cubierta del libro alude a una analogía a la que Bostrom se refiere como "La fábula inacabada de los gorriones".[5] Un grupo de gorriones decide buscar a una cría de búho para criarla como su sirviente.[6] Imaginan “lo fácil que sería la vida” si tuviesen un búho que les ayudase a construir sus nidos, a defenderse y a conseguir una vida de ocio. Los gorriones comienzan la difícil búsqueda de un huevo de búho; únicamente “Scronkfinkle”, un gorrión tuerto de temperamento inquieto, sugiere pensar en la complicada pregunta de cómo domar al búho antes de incorporarlo al grupo. El resto de gorriones objetan; la búsqueda de un huevo de búho es suficientemente difícil por sí misma: “¿Por qué no conseguir el búho primero y luego aclarar el resto de detalles?” Bostrom sostiene que “no se sabe cómo termina la historia”, pero dedica su libro a Scronkfinkle.[5][4]
