¿Por qué no deberías tener miedo a los robots asesinos?

Una distopía en la que los robots asesinos destruyen a personas inocentes suena horrible, pero digamos sin rodeos: todo es ciencia ficción

Una escena de la película Slaughterbots en la que los drones asesinos autónomos caen en manos de terroristas en un futuro distópico

Drones asesinos que cayeron en manos de terroristas están organizando la masacre de personas inocentes. Las armas robóticas de destrucción masiva causan estragos y miedo. El cortometraje, creado por los defensores de las prohibiciones de armas autónomas, fue creado para hacerle creer que esta anti-utopía ya está muy cerca , y que se deben tomar medidas hoy. La película Slaughterbots se estrenó en noviembre de 2017, simultáneamente con la Conferencia de las Naciones Unidas sobre Armas Autónomas. La reunión de la ONU no terminó con nada concreto, pero el video está ganando popularidad. Ya ha sido visto por más de 2 millones de personas y ha llegado a docenas de artículos . Funciona perfectamente como propaganda. Y con la convicción de aceptar una prohibición de armas autónomas, no hace nada.


Por supuesto, un mundo en el que los terroristas puedan lanzar un enjambre de drones asesinos a personas inocentes sería terrible, pero ¿es realista el futuro que se muestra en la película? Una bella imagen ayuda a ocultar las lagunas en la lógica. La película sumerge al espectador en una pesadilla distópica, pero digamos sin rodeos: todo es ciencia ficción.

La suposición principal de la película es que en el futuro, los militares crearán microdrones autónomos con cargas acumulativas que pueden volar hasta la cabeza de una persona y activar explosivos, lo que lo matará. En la película, estos robots asesinos caen rápidamente en manos de terroristas, lo que lleva a una gran cantidad de muertes en todo el mundo.



El concepto principal tiene una base en la realidad. En nuestro mundo, el estado islámico [una organización terrorista prohibida en la Federación de Rusia] utilizó cuadricópteros comprados ya preparados, equipados con una pequeña cantidad de explosivos, para atacar a las tropas iraquíes, lo que provocó la muerte y heridas de varias docenas de soldados. Los drones terroristas de hoy en día se controlan principalmente de forma remota, pero los drones aficionados se están volviendo más independientes. Los últimos modelos ya saben cómo volar a un objetivo fijo por su cuenta, evitando obstáculos, así como rastrear y seguir objetos en movimiento de forma independiente. Un pequeño dron equipado con un sistema de reconocimiento facial puede, en principio, usarse para buscar y destruir de manera autónoma a ciertas personas, como muestra la película Slaughterbots. En solo unos minutos de búsqueda en Internet, encontré recursos donde puede descargar y entrenar una red neuronal gratuita que reconocerá caras. Y aunque nadie ha combinado estas tecnologías, como se muestra en la película, todos los componentes ya son reales.

Pero quiero hacer una declaración: no podemos evitar que esta tecnología caiga en manos de futuros terroristas. Es triste, pero debe entenderse. Así como los terroristas pueden y usan autos para embestir multitudes de personas, la tecnología necesaria para convertir los drones aficionados en armas groseras y autónomas ya está demasiado extendida para ser detenida. Este es un problema, y ​​la mejor respuesta será concentrarse en medidas de protección que nos permitan enfrentar a los drones y atrapar terroristas utilizando sistemas de vigilancia. "

La película utiliza este problema, pero lo infla más allá de toda medida, alegando que los aviones no tripulados pueden ser utilizados por terroristas como armas de destrucción masiva y matar a miles de personas. Afortunadamente, este escenario de pesadilla es tan probable como el HAL 9000 , que le impide ingresar a la puerta de enlace. Las tecnologías que se muestran en el video son realistas, pero todo lo demás es basura completa. Los siguientes supuestos se hacen en el video:

• Los gobiernos lanzarán la producción en masa de microdrones para su uso como armas de destrucción masiva.
• No hay defensa efectiva contra microdrones mortales.
• Los gobiernos no pueden defender las armas a nivel del ejército de los terroristas.
• Los terroristas son capaces de lanzar ataques coordinados a gran escala.

Estas suposiciones varían de controvertidas a fantásticas.

Por supuesto, el video en sí es ficción, y las personas responsables del desarrollo de la defensa a menudo usan escenarios ficticios para ayudar a los políticos a pensar en las consecuencias de los eventos probables. Soy analista de defensa trabajando en un grupo de expertos, y en mi trabajo anterior en el Pentágono estuve involucrado en la planificación estratégica. Y utilicé escenarios ficticios para ilustrar la elección de la tecnología militar en la que deberían invertir los militares estadounidenses. Pero para que estos escenarios sean útiles, deben ser al menos probables. Debe ser algo que pueda suceder. El guión utilizado en la película Slaughterbots no puede tener en cuenta la realidad política y estratégica del uso de la tecnología militar por parte del gobierno.

Primero, no hay evidencia de que los gobiernos planeen producir en masa pequeños drones para matar a un gran número de civiles. En mi próximo libro Army of None: Autonomous Weapons and the Future of War [Army from None: Autonomous Weapons and the Future of Wars], examino las armas de las generaciones futuras que se construyen en laboratorios de defensa de todo el mundo. Rusia, China y Estados Unidos compiten en una carrera por la autonomía y la inteligencia artificial. Pero crean armas, en su mayor parte destinadas a combatir a los militares. Estas son armas destinadas a atacar objetivos militares [ contrafuerza ], y no a atacar otros activos, que incluyen civiles [ contravalor ]. Las armas autónomas del primer tipo, por supuesto, tienen sus propios problemas, pero no se desarrollan con el objetivo de la destrucción masiva de civiles, y no pueden reconfigurarse para tal uso.

En segundo lugar, el video habla sobre drones que pueden superar cualquier "contraataque". Los expertos en televisión gritan que "no podemos protegernos". Esto ni siquiera es ficción, sino farsa. Para cada tecnología militar, hay oposición, y la oposición a los pequeños drones ni siquiera se puede llamar hipotética. El gobierno de los Estados Unidos está desarrollando activamente métodos para disparar, atascar, freír, romper, atrapar y otros métodos para contrarrestar pequeños drones. Los microdrones en el video se pueden contrarrestar con éxito con algo tan simple como una malla de alambre. El video muestra drones pesados ​​perforando agujeros en las paredes a través de los cuales otros penetran, pero una defensa simple de varias capas puede ayudar contra esto. Los analistas militares analizan el valor de la defensa frente al ataque, en cuyo caso la ventaja está claramente del lado de la defensa estática.


En un mundo donde los terroristas llevan a cabo periódicamente ataques con drones improvisados, es poco probable que las personas soporten el inconveniente de crear estructuras defensivas confiables, al igual que las personas no usan chalecos antibalas para protegerse contra el improbable golpe de un tirador. Pero si un país hostil construye cientos de miles de drones que pueden borrar una ciudad de la faz de la tierra, puede estar seguro de que las cosas no pueden funcionar sin redes. El video aborda el verdadero problema: los terroristas atacan con drones, y lo escala sin tener en cuenta la reacción de otras partes. Si comenzara la producción de microdrones letales a escala industrial, la protección y las contramedidas contra ellos se convertirían en una prioridad estatal, en cuyo caso las contramedidas serían simples. Y cualquier arma que pueda protegerse con una malla de alambre no se considera un arma de destrucción masiva.

En tercer lugar, el video implica que los militares no pueden evitar que los terroristas tengan acceso a armas de nivel militar. Pero hoy no damos granadas de mano, rifles antitanque o ametralladoras a terroristas [cierto, esta declaración es refutada incluso por la última película biográfica con Tom Cruise en el papel principal / aprox. transl.]. Los terroristas que atacan con drones entusiasman a todos porque usan explosivos caseros, unidos a la tecnología terminada. Este es un problema real, pero nuevamente, el video escala esta amenaza a volúmenes poco realistas. Incluso si los militares comenzaran a fabricar microdrones mortales, los terroristas podrían obtener una gran cantidad de ellos no más fácil que cualquier otra tecnología militar. Las armas realmente caen gradualmente en manos de los participantes en las hostilidades que luchan en el lado equivocado, pero el hecho de que Siria esté llena de misiles dirigidos contra tanques no significa que sean fáciles de encontrar en Nueva York. Los terroristas usan aviones y camiones precisamente porque no es tan fácil pasar de contrabando armas tipo ejército a un país occidental.


Microdrones asesinos de la película

Cuarto, el video sugiere que los terroristas son capaces de atacar con una coordinación increíblemente precisa. En un episodio, dos personas liberan un enjambre de 50 drones desde las puertas de una camioneta. Este episodio en sí mismo es bastante realista; Uno de los problemas con las armas autónomas es que un pequeño grupo de personas puede lanzar un ataque a mayor escala que si tuvieran armas convencionales. Un vagón con 50 drones es una opción lo suficientemente razonable. Pero la película lleva la idea a un absurdo. Se alega que unas 8.300 personas murieron en ataques simultáneos. Entonces, si las personas con una camioneta retratan un ataque típico, entonces, por tal daño, los terroristas tendrían que realizar alrededor de 160 ataques en todo el mundo. De hecho, los terroristas a menudo llevan a cabo ataques coordinados, pero su número generalmente no supera los diez . Y el video asume no solo la presencia de super armas, sino también que cayó en manos de los supervillanos.

En la película, el bombo y el miedo se utilizan para superar supuestos críticos, como resultado de lo cual interfiere con una discusión racional de los riesgos asociados con el acceso de los terroristas a las armas autónomas . Del video, queda claro que debemos tener miedo. ¿Pero por qué tener miedo? ¿Armas que eligen sus objetivos por su cuenta (sobre esto, por cierto, no todo está claro en el video)? ¿Armas sin contramedidas? ¿Que los terroristas pueden conseguir armas? Capacidades de armas autónomas para escalar ataques? Si quieres causar miedo a los robots asesinos, entonces este video es adecuado para ti. Pero cuando intenta analizar a fondo el problema, ni siquiera es un estudio simple. El video no ofrece argumentos, pero se dedica a crear sensaciones baratas y a aumentar el miedo.

Naturalmente, el propósito del video es alentar a los espectadores a actuar con miedo.
El video termina con las palabras de un profesor de la Universidad de California en Berkeley, Stuart Russell , advirtiendo sobre los peligros de las armas autónomas e instando al espectador a actuar para que esta pesadilla no se convierta en realidad. Respeto mucho a Stuart Russell, tanto un investigador de IA como una persona que contribuye a disputas de armas autónomas. Invité a Russell a eventos en el Centro para la Nueva Seguridad Estadounidense , donde participo en un programa de investigación relacionado con la IA y la seguridad global . No tengo dudas de que las opiniones de Russell son sinceras. Pero el video, en un intento de convencer al espectador, crea una aplicación no compatible.

Peor aún, la solución propuesta , el tratado que prohíbe las armas autónomas , no resolverá los problemas reales que enfrenta la humanidad con el desarrollo de la autonomía en las armas. La prohibición no impedirá que los terroristas fabriquen armas robóticas caseras. Además, la prohibición de tales armas, que se demuestra en el video, no afectará los riesgos asociados con la aparición de armas autónomas en el ejército. De hecho, ni siquiera está claro si el arma que se muestra en la película caerá bajo tal prohibición, porque allí actúa de manera muy selectiva.

Centrándose en escenarios extremos e improbables, la película en realidad impide el progreso para abordar los problemas reales que rodean a las armas autónomas. Es probable que los estados entre los líderes en el desarrollo de armas robóticas noten temores basados ​​en esta película. La película vierte agua sobre el molino de aquellos que afirman que el miedo a las armas autónomas es irracional y propenso a una exageración excesiva.

Las armas autónomas plantean preguntas importantes sobre obedecer las leyes de la guerra, sobre el riesgo y el control, y sobre el papel moral de las personas en las hostilidades. Estos son temas importantes que merecen una discusión seria. Cuando Russell y otros participan en un animado debate sobre estos temas, agradezco tal discusión. Pero la película especificada no entra en esta categoría. El video ha captado con éxito la atención de los medios de comunicación, pero su inclinación por las sensaciones dificulta las serias discusiones intelectuales que deben llevarse a cabo sobre el tema de las armas autónomas.

Paul Sharr es investigador principal, director de tecnología y seguridad pública del New American Security Center (CNAS). De 2009 a 2012, dirigió el grupo de trabajo del Departamento de Defensa de EE. UU., Que desarrolló pautas para el uso de la autonomía en armamentos.