Slaughterbots
video de 2017 que aboga por el control de armas
From Wikipedia, the free encyclopedia
Slaughterbots es un video de 2017 que aboga por el control de armas y presenta un escenario dramatizado de un futuro cercano donde enjambres de microdrones económicos utilizan inteligencia artificial y software de reconocimiento facial para asesinar a oponentes políticos según criterios preprogramados. Fue publicado por el Future of Life Institute y Stuart Russell, profesor de informática en Berkeley.[1] En YouTube, el video se viralizó rápidamente, acumulando más de dos millones de visualizaciones [2][3] y se proyectó en la reunión de la Convención sobre Ciertas Armas Convencionales en Ginebra ese mismo mes.[4]
| Slaughterbots | ||
|---|---|---|
| Ficha técnica | ||
| Narrador | Stuart J. Russell | |
| Ver todos los créditos (IMDb) | ||
| Datos y cifras | ||
| Año | 2017 | |
| Género | Cine distópico | |
| Idioma(s) | Inglés | |
| Ficha en IMDb | ||
La insinuación de la película de que enjambres de estos "robots asesinos" -armas autónomas letales y en miniatura- podrían convertirse en verdaderas armas de destrucción masiva en un futuro próximo resultó controvertida.[2][5]
Una secuela, Slaughterbots – if human: kill() (2021), presentó escenarios hipotéticos adicionales de ataques a civiles y nuevamente pidió a la ONU que prohibiera las armas autónomas que atacan a personas.[6]
Trama
La dramatización, de siete minutos de duración, se ambienta en un futuro cercano al estilo de Black Mirror.[7][8] Pequeños drones autónomos del tamaño de la palma de la mano, que utilizan reconocimiento facial y carga hueca pueden programarse para buscar y eliminar individuos o grupos de individuos conocidos (como individuos que visten uniformes militares enemigos). Un ejecutivo tecnológico afirma que las armas nucleares ya están "obsoletas": un pedido de 25 millones de dólares de drones "imparables" puede destruir media ciudad. A medida que se desarrolla el video, la tecnología es reutilizada por desconocidos para asesinar a oponentes políticos, desde congresistas en ejercicio hasta activistas estudiantiles identificados a través de sus perfiles de Facebook. En una escena, los drones se coordinan entre sí para acceder a un edificio: un dron más grande abre un agujero en una pared para dar acceso a los más pequeños.[9][10][11]
La dramatización es seguida por una apelación de cuarenta segundos de Russell: "Este cortometraje es más que una mera especulación; muestra los resultados de integrar y miniaturizar tecnologías que ya tenemos". ... El potencial de la IA para beneficiar a la humanidad es enorme, incluso en defensa, pero permitir que las máquinas elijan matar humanos será devastador para nuestra seguridad y libertad".[10] [12]
Producción
Según Russell, «Lo que intentábamos mostrar era la capacidad de las armas autónomas para convertirse automáticamente en armas de destrucción masiva, ya que se pueden lanzar tantas como se desee... y por eso pensamos que un vídeo lo dejaría muy claro». Russell también expresó su deseo de sustituir la concepción irreal e inútil de las armas autónomas al Skynet (Terminator) de Hollywood por algo más realista.[13] El vídeo fue producido por Space Digital en MediaCityUK y dirigido por Stewart Sugg, con tomas en la Universidad de Hertfordshire y en Edimburgo. Se eligió Edimburgo porque los cineastas «necesitaban calles vacías un domingo por la mañana» para las tomas de policías armados patrullando calles desiertas, y porque la ubicación es reconocible para el público internacional.[14] Todos los drones se añadieron en posproducción.[13] [15]
Recepción
Viabilidad técnica
Cuando se estrenó la película, fue criticada como ciencia ficción desmesurada de conocidos pesimistas tecnológicos. Paul Scharre, exanalista del Pentágono, la calificó de absurda: "Es sensacionalista y alarmista".[16]
En diciembre de 2017, The Economist evaluó la viabilidad de los Slaughterbots en relación con los programas de microdrones MAST y DCIST de Estados Unidos MAST cuenta actualmente con un ciclocóptero que pesa menos de 30 gramos (1,1 oz), pero tiene la desventaja de que se ve fácilmente perturbado por su propia turbulencia reflejada cuando está demasiado cerca de una pared. Otro candidato es algo como Salto, un modelo de 98 gramos (3,5 oz) robot saltador, que se desempeña mejor que los ciclocópteros en espacios reducidos. El nivel de coordinación autónoma entre drones mostrado en Slaughterbots no estaba disponible en 2017, pero eso es solo el comienzo y estaba cambiando, con enjambres de drones utilizados para exhibiciones aéreas. En general, The Economist coincidió en que los "robots asesinos" podrían ser viables en un futuro próximo: "En 2008, un dron espía que se pudiera sostener en la palma de la mano era una idea de ciencia ficción. Estos drones son ahora comunes". ... Cuando el DCIST concluya en 2022, la idea de los Slaughterbots puede parecer mucho menos ficticia que ahora. The Economist se muestra escéptico de que el control de armas pueda prevenir tal militarización de los enjambres de drones: "Como alguien dijo sobre las armas nucleares después de la detonación de la primera, el único secreto que vale la pena guardar ahora ha salido a la luz: estas malditas cosas funcionan".[17]
En abril de 2018, el Schweizer Drohnen- und Robotik-Zentrum (Centro gubernamental suizo de drones y robótica), haciendo referencia a Slaughterbots, probó 3 gramos (0,1 oz) de carga hueca sobre un modelo de cabeza y concluyó que "las lesiones son tan graves que las posibilidades de supervivencia son muy escasas".[18]
A 2020, DARPA was actively working on pre-operational prototypes that would make swarms of autonomous lethal drones available to the US military.[19]
Plausibilidad de la amenaza
En diciembre de 2017, Paul Scharre, del Center for a New American Security (Centro para una nueva seguridad estadounidense), cuestionó la viabilidad del escenario del video, afirmando que «Toda tecnología militar tiene una contramedida, y las contramedidas contra los drones pequeños ni siquiera son hipotéticas. El gobierno de Estados Unidos trabaja activamente en formas de derribar, interferir, inutilizar, piratear, atrapar o, de alguna otra manera, derrotar a los drones pequeños. Los microdrones del video podrían ser derrotados con algo tan simple como una malla de alambre. El video muestra drones con mayor carga útil perforando paredes para que otros drones puedan entrar, pero la solución es simplemente defensas en capas». Scharre también afirmó que la propuesta implícita de Russell, un tratado legalmente vinculante que prohíba las armas autónomas, «no resolverá los problemas reales que enfrenta la humanidad a medida que la autonomía avanza en las armas. Una prohibición no impedirá que los terroristas diseñen armas robóticas caseras rudimentarias». ... De hecho, ni siquiera está claro si una prohibición prohibiría las armas que se muestran en el vídeo, que en realidad son bastante discriminatorias".[2]
En enero de 2018, Stuart Russell y otros tres autores respondieron a Scharre en detalle. Su desacuerdo se centró principalmente en la cuestión de si los "robots asesinos", como se presenta en el video, eran "armas de destrucción masiva (ADM) potencialmente escalables". Concluyeron: "Nosotros, y muchos otros expertos, seguimos considerando plausible la opinión de que las armas autónomas pueden convertirse en armas de destrucción masiva escalables. La afirmación de Scharre de que una prohibición será ineficaz o contraproducente es incoherente con la historia. Finalmente, la idea de que la seguridad humana se verá reforzada por una carrera armamentística descontrolada en armas autónomas es, en el mejor de los casos, una ilusión".[5]
Recepción
Matt McFarland, de CNN, opinó que «quizás la película más desastrosa y distópica de 2017 no salió de Hollywood». McFarland también afirmó que el debate sobre la prohibición de los robots asesinos había tomado un cariz sensacionalista: en 2015, «se basaron en cartas abiertas y peticiones con lenguaje académico», y emplearon un lenguaje seco como «cuadricópteros armados». Ahora, en 2017, «advierten sobre los 'robots asesinos '.[20]
Andrew Yang se vinculó a Slaughterbots desde un tuit durante su candidatura a las primarias presidenciales de Estados Unidos de 2020.[21]
El vídeo de la secuela, publicado el 30 de noviembre de 2021, tuvo más de dos millones de visitas en YouTube hasta el 8 de diciembre.[22]
