La conquista silenciosa de los robots asesinos

La conquista silenciosa de los robots asesinos

El avance imparable de la industria de las armas autónomas contrasta con la proliferación de iniciativas que defienden la prohibición de estos sistemas

En la mitología celta, Taranis era el dios del trueno. El Thor de los galos. En la industria de la guerra, Taranis es un arma autónoma: un avión de combate que no necesita ayuda humana para levantar el vuelo, recopilar información, desplegar armas en territorio enemigo y volver a casa. Pero sí necesita autorización: "En todo momento Taranis estará controlado por un equipo de tierra altamente capacitado", asegura BAE System, fabricante líder en este proyecto que aún está en pruebas.

Taranis

Cuando el humano sale de la ecuación, la comunidad internacional se lleva las manos a la cabeza. "Lo peligroso es que sea autónoma la decisión de generar violencia. La decisión de matar", explica Pere Brunet, investigador del Centro Delàs de Estudios por la Paz. El problema no es que un vehículo armado pueda desplazarse entre dos puntos sin un conductor al mando sino que sea capaz de desencadenar un ataque de consecuencias potencialmente letales porque así lo han razonado sus algoritmos. "No puede no haber control en el momento en que se ejecuta algo violento", insiste Brunet.

La amenaza de las armas autónomas letales fue lo que convenció a más de un centenar de compañías de inteligencia artificial y robótica para dar la voz de alarma en una carta abierta: "Una vez desarrolladas, estas armas permitirán que los conflictos armados se planteen a unas escalas mayores que nunca y en rangos de tiempo más veloces que las que puede comprender el ser humano. Estas pueden ser armas de terror, armas que déspotas y terroristas pueden usar contra población inocente. Una vez abierta la caja de Pandora, será difícil cerrarla". Estas palabras las firmaron en agosto Elon Musk (Tesla) y Mustafa Suleyman (DeepMind), entre otros representantes de empresas de robótica e inteligencia artificial. Su destino era la convención sobre ciertas armas convencionales (CCW) de la ONU, a la cual correspondería tomar cartas en el asunto de controlar esta tecnología: "Si esto no se regula, desgraciadamente la industria va a continuar con lo que es rentable", lamenta Brunet.

Evolución del desarrollo de funcionalidades autónomas en armas

Fuente: SIPRI

Taranis, que tiene pasaporte británico, es una de las 381 armas incluidas por el Instituto Internacional de Estudios para la Paz de Estocolmo (Sipri) en su dataset sobre autonomía en sistemas de armas. Esta propiedad no es nueva. De acuerdo con el registro del centro sueco, allá por 1957, se introdujo el misil ruso S-75 Dvina, cuyo radar monitorizaba continuamente el blanco y corregía la trayectoria en tiempo real. Esta es la idea básica de las armas autónomas modernas (y la autonomía en general): sensores que recopilan datos del entorno se combinan con software desarrollado para interpretarlos y definir planes de acción.

  • ¿Por qué tanto interés?

Las armas autónomas permitirían desplegar fuerzas con mayor agilidad, precisión y alcance

Desde el punto de vista militar, el desarrollo de esta tecnología permitiría desplegar fuerzas a una velocidad mayor que la que posibilitan las capacidades humanas, "con mayor agilidad, precisión y alcance", explica Sipri. Además, un hipotético enjambre de robots autónomos podría operar en grandes grupos de una manera mucho más coordinada, estratégica y estructurada. Y en última instancia, se ahorrarían costes. Por ejemplo, el buque no tripulado Sea Hunter, desarrollado por Darpa -la agencia de proyectos de investigación del Departamento de Defensa de Estados Unidos-, es capaz de navegar sin timonel durante meses por unos relativamente baratos 15.000 dólares diarios.

"La autonomía ya es una realidad en el desarrollo y uso de sistemas de armas", recogía el informe publicado por Sipri en noviembre. Sin embargo, la autonomía total que necesitaría ese enjambre de robots y contra la que se han rebelado colectivos como el que apoya la campaña Stop Killer Robots, aún no está en el campo de batalla.

¿Autonomía total?

Quien quiera fabricar un dron letal capaz de hacer la guerra sin supervisión humana tendría que cumplir, explica Sipri, tres principios fundamentales:

  1. Distinción: determinar que un individuo es un blanco legítimo. Evaluar su pertenencia a un grupo armado, su implicación en las hostilidades e incluso reconocer situaciones de duda en las que un humano podría estar vacilando para no atacar en estas circunstancias.
  2. Proporcionalidad: detener ataques que podría causar muertes accidentales, herir a civiles, dañar objetos civiles o cualquier combinación de las anteriores que resultase excesiva en relación con la ventaja militar anticipada con esta acción.
  3. Precaución: tomar todas las medidas preventivas necesarias en la elección de los medios y métodos de ataque, con la finalidad de minimizar daños a civiles y objetos civiles.

"Hay mucho desarrollado en inteligencia artificial, pero queda mucho más por hacer. Si esto se desmadra, no sé dónde podríamos acabar", razona José Manuel del Río, director ejecutivo de Aisoy Robotics. Su nombre y el de su empresa también están en la carta enviada a la CCW en agosto.

La inteligencia artificial tiene un potencial que mal usado puede ser devastador

José Manuel del Río, Aisoy Robotics

"Nosotros somos todo lo opuesto al campo armamentístico", asegura Del Río. Este contraste es parte del problema. Las mismas tecnologías que Aisoy utiliza para desarrollar robots educativos con inteligencia artificial emocional sirven a los más de doscientos fabricantes que aparecen en el listado de Sipri para avanzar la guerra sin manos (humanas). "En Aisoy hacemos inteligencia artificial emocional, para desarrollar capacidades humanas, como la creatividad, la resolución de problemas, el trabajo en equipo... Pero esas capacidades también pueden usarse para el mal. Desde el punto de vista humano, hay personas que utilizan su capacidad creativa para hacer daño. Lo mismo ocurre con la inteligencia artificial: tiene un potencial que mal usado puede ser devastador", explica.

Tipos de armas que incorporan funcionalidades autónomas

Fuente: SIPRI

Las primeras gotas de autonomía las puso Rusia en la defensa antiaérea, con su S-75 Dvina. Estos sistemas son ahora el tercer campo más prolífico para las armas autónomas, con 56 armas registradas por Sipri, solo por detrás de las aeronaves no tripuladas (126) y los sistemas terrestres no tripulados (70). A este arsenal han contribuido especialmente Estados Unidos, Israel y Rusia: entre los tres, concentran la mitad de las armas del listado.

  • ¿Carrera armamentista?

"No hay, aún, una carrera armamentista por la autonomía", sentencia el informe de Sipri. De los diez mayores productores de armas del mundo, solo Estados Unidos ha manifestado oficialmente que la autonomía es un componente central de su estrategia para el futuro. Si embargo, también se sabe que este aspecto es parte principal de la estrategia de Israel y otros países, como Reino Unido, Francia, Rusia, Japón, Corea del Sur y China, han expresado su interés.

Armas que incorporan funcionalidades autónomas, por países de origen y tipos

Fuente: SIPRI

Los primeros pasos de esta carrera no declarada nos llevarán antes a una guerra por control remoto que según Brunet tampoco está exenta de peligros: "Hay una increíble contradicción en la sociedad actual. Los países avanzados tienen abolida la pena de muerte. Curiosamente en algunos hasta hemos visto juicios por muertes extrajudiciales. Y por otra parte se está pensando en matar en tres niveles: el de las armas tradicionales, el de los drones con los que alguien en Estados Unidos mata a otra persona en Afganistán y por último, aquel en que ya no hay control humano".

Es mucho más fácil construir un arma autónoma que un arma nuclear

Pere Brunet, Centro Delàs

Sin embargo, el que fuera secretario de Defensa estadounidense hasta el pasado mes de julio no se cansó de prometer que sus aproximaciones a la guerra autónoma se parecen más a Iron Man que a Terminator: "La máquina asiste a un humano que está en control en todos los sentidos, pero le hace mucho más poderoso y capaz", explicaba. Lo que no prometía el secretario era que otros no fuesen a desarrollar las mismas armas autómatas que para Stop Killer Robots deben ir por el mismo camino que siguieron las minas antipersona, los láseres cegadores y las armas incendiarias, entre otras, cuyo desarrollo y uso ha sido prohibido o restringido por la CCW: "Sistemas autoritarios que creen que las personas son una debilidad en la máquina gravitarán de forma natural hacia soluciones más automatizadas".

  • Armas autónomas caseras

"La existencia de estas armas no puede justificarse de ninguna manera, sea cual sea al régimen político", sentencia Brunet. Para el investigador, el problema fundamental no son tanto los fabricantes habituales como los espontáneos. "Es mucho más fácil construir un arma autónoma que un arma nuclear", explica. Así, sin una regulación internacional que mantenga a raya los avances en este campo, el terrorismo tendría otra puerta abierta. "Compararía las armas autónomas con los explosivos. ¿Cuáles se pueden utilizar para un atentado? Infinitos. Y además, se pueden fabricar en casa. La única diferencia es que con las armas autónomas hay más sofisticación en la tecnología, pero lo único que hace falta es ser un poco espabilado", resume Brunet.

Tanto él como Del Río coinciden en que el problema nace en la absoluta falta de regulación internacional sobre esta materia y la solución pasa por actuar pronto y crear concienciación: "Igual que tratamos de sensibilizar con los efectos del calentamiento global, tenemos que concienciarnos sobre una tecnología que esconde un potencial del que ahora mismo no sabemos donde está su techo", explica el director ejecutivo de Aisoy.

Retina

25/02/2018
06

Berto Romero, entre el Mac y la minipimer

Da igual que se trate de un portátil, una batidora o un reloj de cuerda, el cómico se encariña con ellos y solo les pide una cosa: “Que no me toquen las narices”.

Berto Romero, entre el Mac y la minipimer
Nerea Calvillo: la mujer que juega con el viento
10

Nerea Calvillo: la mujer que juega con el viento

El aire limpio se ha convertido en un bien escaso en las ciudades. La aplicación In The Air que ha creado esta arquitecta y artista permite ver las partículas en suspensión. Un grito al cambio mostrándonos lo que de verdad respiramos.

Normas
Entra en EL PAÍS