Por Tom F.A Watts
El 26 de octubre de 2024 marca el 40 aniversario del clásico de ciencia ficción del director James Cameron, The Terminator —una película que popularizó el temor social a las máquinas con las que no se puede razonar y que, como dice memorablemente uno de sus personajes, «simplemente no se detendrán… hasta que estés muerto».
La trama gira en torno a un sistema de IA superinteligente llamado Skynet, que ha tomado el control del mundo tras iniciar una guerra nuclear. En medio de la devastación resultante, los supervivientes humanos organizan una exitosa contraofensiva bajo el liderazgo del carismático John Connor.
Como respuesta, Skynet envía a un asesino cíborg (interpretado por Arnold Schwarzenegger) al pasado, concretamente al año 1984 —antes del nacimiento de Connor— para matar a su futura madre, Sarah. Tal es la importancia de John Connor en la guerra, que Skynet apuesta por borrarlo de la historia para preservar su existencia.
Hoy en día, el interés público por la inteligencia artificial (IA) es, posiblemente, mayor que nunca. Las empresas que desarrollan IA suelen prometer que sus tecnologías realizarán tareas más rápido y con mayor precisión que las personas. Afirman que la IA puede detectar patrones en los datos que no son evidentes, mejorando la toma de decisiones humanas. Existe una percepción generalizada de que la IA está a punto de transformar todo, desde la guerra hasta la economía.
Únase y apueste por información basada en la evidencia.
Los riesgos inmediatos incluyen la introducción de sesgos en los algoritmos de selección de solicitudes de empleo y la amenaza de que la IA generativa desplace a los humanos en ciertos tipos de trabajos, como la programación de software.
Pero es el peligro existencial el que a menudo domina la discusión pública, y las seis películas de Terminator han ejercido una influencia desproporcionada en cómo se enmarcan estos debates. De hecho, según algunos, la representación de las amenazas que plantean las máquinas controladas por IA en las películas distrae de los beneficios sustanciales que ofrece esta tecnología.
The Terminator no fue la primera película en abordar los peligros potenciales de la IA. Existen paralelismos entre Skynet y la supercomputadora HAL 9000 de la película de Stanley Kubrick de 1968, 2001: Odisea del espacio.
También toma inspiración de la novela de 1818 de Mary Shelley, Frankenstein, y de la obra de teatro de 1921 de Karel Čapek, R.U.R.. Ambas historias tratan sobre inventores que pierden el control sobre sus creaciones.
Al estrenarse, fue descrita en una crítica del New York Times como una «película B con estilo». Con el tiempo, ha sido reconocida como una de las mejores películas de ciencia ficción de todos los tiempos. En la taquilla, recaudó más de 12 veces su modesto presupuesto de 6,4 millones de dólares estadounidenses (4,9 millones de libras esterlinas al tipo de cambio actual).
Quizás lo más novedoso de The Terminator fue cómo reimaginó los antiguos temores de un alzamiento de las máquinas a través del prisma cultural de la América de los años 80. Al igual que la película WarGames de 1983, donde un adolescente casi provoca la Tercera Guerra Mundial al hackear una supercomputadora militar, Skynet destaca los temores de la Guerra Fría sobre la aniquilación nuclear, junto con la ansiedad sobre el rápido cambio tecnológico.
Cuarenta años después, Elon Musk es uno de los líderes tecnológicos que ha ayudado a mantener el enfoque en el supuesto riesgo existencial que representa la IA para la humanidad. El propietario de X (anteriormente Twitter) ha hecho referencia repetidamente a la franquicia Terminator al expresar sus preocupaciones sobre el desarrollo hipotético de una IA superinteligente.
Pero tales comparaciones a menudo irritan a los defensores de la tecnología. Como dijo el exministro de tecnología del Reino Unido, Paul Scully, en una conferencia en Londres en 2023: «Si solo estás hablando sobre el fin de la humanidad debido a un escenario de estilo Terminator, te perderás todo lo bueno que la IA puede hacer».
Eso no significa que no haya preocupaciones genuinas sobre los usos militares de la IA, algunos de los cuales podrían incluso parecerse a la franquicia cinematográfica.
Sistemas de armas controlados por IA
Para alivio de muchos, los funcionarios estadounidenses han dicho que la IA nunca tomará la decisión de desplegar armas nucleares. Sin embargo, combinar la IA con sistemas de armas autónomos es una posibilidad.
Estas armas han existido durante décadas y no necesariamente requieren IA. Una vez activadas, pueden seleccionar y atacar objetivos sin ser operadas directamente por un humano. En 2016, el general de la Fuerza Aérea de los EE. UU., Paul Selva, acuñó el término «dilema Terminator» para describir los desafíos éticos y legales que plantean estas armas.
El director de Terminator, James Cameron, dice que «la mayor amenaza es la militarización de la IA».
Stuart Russell, un destacado informático británico, ha abogado por la prohibición de todas las armas letales completamente autónomas, incluidas las que utilizan IA. Según él, el principal riesgo no proviene de un sistema consciente como Skynet que se descontrola, sino de cómo las armas autónomas podrían seguir nuestras instrucciones, matando con una precisión sobrehumana.
Russell prevé un escenario en el que pequeños cuadricópteros equipados con IA y cargas explosivas podrían producirse en masa. Estos «robots asesinos» podrían desplegarse en enjambres como «armas de destrucción masiva baratas y selectivas».
Países como EE. UU. especifican la necesidad de que los operadores humanos «ejerzan niveles adecuados de juicio humano sobre el uso de la fuerza» al operar sistemas de armas autónomos. En algunos casos, los operadores pueden verificar visualmente los objetivos antes de autorizar los ataques y pueden «anular» los ataques si la situación cambia.
La IA ya se está utilizando para apoyar la selección de objetivos militares. Según algunos, este uso es responsable, ya que podría reducir los daños colaterales. Esta idea evoca el cambio de rol de Schwarzenegger como el «guardián máquina» benevolente en la secuela del filme original, Terminator 2: Judgment Day.
Sin embargo, la IA también podría socavar el papel de los operadores de drones humanos a la hora de cuestionar las recomendaciones de las máquinas. Algunos investigadores creen que los humanos tienden a confiar en lo que dicen las computadoras.
«Municiones merodeadoras»
Los ejércitos que participan en conflictos están utilizando cada vez más pequeños drones aéreos baratos que pueden detectar y estrellarse contra sus objetivos. Estas «municiones merodeadoras» (llamadas así porque están diseñadas para sobrevolar un campo de batalla) presentan diversos grados de autonomía.
Como he argumentado en investigaciones coescritas con la investigadora de seguridad Ingvild Bode, la dinámica de la guerra en Ucrania y otros conflictos recientes, en los que estas municiones se han utilizado ampliamente, plantea preocupaciones sobre la calidad del control ejercido por los operadores humanos.
Los robots militares terrestres armados, diseñados para su uso en el campo de batalla, podrían recordar a los implacables Terminators, y los drones aéreos armados podrían, con el tiempo, parecerse a los «cazadores-asesinos» de la franquicia. Sin embargo, estas tecnologías no nos odian como lo hace Skynet, ni tampoco son «superinteligentes».
Sin embargo, es crucialmente importante que los operadores humanos continúen ejerciendo control y agencia significativa sobre los sistemas de máquinas.
Es discutible que el mayor legado de The Terminator haya sido distorsionar cómo pensamos y hablamos colectivamente sobre la IA. Esto importa más que nunca debido a lo centrales que se han vuelto estas tecnologías en la competencia estratégica por el poder e influencia global entre EE. UU., China y Rusia.
Toda la comunidad internacional, desde superpotencias como China y EE. UU. hasta países más pequeños, necesita encontrar la voluntad política para cooperar y gestionar los desafíos éticos y legales que plantean las aplicaciones militares de la IA en esta época de agitación geopolítica. La manera en que las naciones naveguen por estos desafíos determinará si podemos evitar el futuro distópico imaginado de manera tan vívida en The Terminator —aunque no veamos cíborgs que viajen en el tiempo en un futuro cercano.
Este artículo fue publicado por The conversation en inglés. Para leer el original en inglés siga este enlace.
