Herbert Marshal, Richard Egan y Constance Dowling se enfrentan a un robot asesino en la película de ciencia ficción 'Gog' (1954)
Herbert Marshal, Richard Egan y Constance Dowling se enfrentan a un robot asesino en la película de ciencia ficción 'Gog' (1954)

Tú, tú mismo y tu avatar: ¿y si el robot que habitas se lía y mata a alguien?

¿Y si sufre una agresión mientras tú lo controlas? La posibilidad de convertir a los robots en extensiones de nuestro propio cuerpo es cada vez más real, pero sus implicaciones aún están por explorar (y regular)

Digamos que te sientas y pones tu mano izquierda sobre una mesa, pero fuera de tu campo de visión, tapada por una pantalla. Y que ante ti, sobre la misma superficie y ahora visible, descansa una mano izquierda de goma. Eres uno de los sujetos de la investigación que Matthew Botvinick y Jonathan Cohen publicaron en 1998 en la revista Nature.

Ahora verás cómo rozan con un pincel la mano de goma y notarás que simultáneamente hacen lo mismo con la tuya. Este sencillo procedimiento, conocido como the rubber hand illusion te llevará a tomar la extremidad artificial por la tuya propia, como tú mismo sintieras el discurrir del pincel sobre la goma. "Me encontré a mí mismo mirando a la mano falsa y pensando que era en realidad la mía", aseguró entonces uno de los participantes en el experimento. Y aquello tan siniestro era sólo el principio: con los robots nos pasa lo mismo.

"Cuando nos ponen en un cuerpo de un robot avatar que tiene apariencia no humana sino altamente robótica, igualmente podemos sentir este cuerpo como si fuera el nuestro", explica Laura Aymerich, investigadora Ramón y Cajal en la Universidad Pompeu Fabra. Aymerich, que lleva desde 2014 estudiando esta relación, empezó en Japón, con una beca Marie Curie y desarrolló su último estudio en el EventLab de la Universidad de Barcelona. Ese avatar que describe debe cumplir ciertos requisitos para que sintamos su cuerpo robótico como propio, pero no muchos ni muy complejos. "Es como extender el experimento de rubber hand illusion al cuerpo entero", precisa.

Lo primero es un casco de realidad virtual que simule el cuerpo del robot en perspectiva de primera persona, que deja de ver su entorno físico inmediato y pasa a mirar a través de los ojos del androide, que lo mismo puede estar la sala de al lado que  en otro país. Además, es preciso que el humano pueda controlar los movimientos del robot. "Eso lo hacemos con tecnologías de body tracking -monitorización del cuerpo-, de tal manera que si la persona levanta un brazo, el robot también lo haga". Y ya está. Te crees robot.

¿Cómo lo sabemos? Porque Aymerich y su equipo lo han comprobado. Basta combinar estas dos argucias para que creamos sentir en nuestras carnes el roce de una cortina en la mano del robot. El fenómeno se conoce como mediated embodiment y no es fácil de traducir al castellano, pero la mejor aproximación sería "corporalidad mediada".

  • Los peligros de habitar un robot

Si la tecnología sigue al ritmo que va, este tipo de interfaces podrían generalizarse más pronto que tarde. "Son tecnologías muy interesantes que pueden tener usos en temas de personas con movilidad reducida, para actividades de rescate, entretenimiento, relaciones interpersonales", precisa Aymerich. El problema es que aún no entendemos las implicaciones que puede tener el uso de estos avatares si las cosas se van de madre.

La investigadora cita un supuesto imaginado por el filósofo Thomas Metzinger. En un futuro no muy lejano, un robot controlado por un humano a través de un interfaz cerebro-máquina se encuentra en una habitación a la que accede inesperadamente otra persona que en el pasado agravió profundamente a la que está al mando de las acciones del androide. ¿Qué pasa si el robot interpreta la oleada de ira y odio que despierta el visitante en su humano como un impulso asesino? En resumen, ¿qué pasa si el robot se lía y mata a alguien?

El melón que se abriría con un crimen así jamás lo hemos visto al descubierto. ¿De quién es la culpa? Un pensamiento hostil lo tiene cualquiera y no va a la cárcel por ello, pero el robot actúa en ese momento en representación de su controlador. También podría haber problemas de jurisdicción. ¿Qué pasa si el humano está en un país y la máquina en otro? "Es muy importante que haya una conciencia entre desarrolladores, investigadores y responsables políticos de que las implicaciones de esto son mayores de las que parece a priori", advierte la investigadora. 

Un sujeto con un casco de realidad virtual y un sistema de monitorización corporal durante un experimento de 'embodiment'

El primer paso para desenmarañar las circunstancias antes de que ocurran es comprender mejor nuestra propia relación con este tipo de avatares robóticos. De entrada, de acuerdo con el más reciente estudio de Aymerich y sus compañeros, no sólo somos capaces de sentir el cuerpo del robot, también nos hacemos cargo de sus errores. Si ellos meten la pata, sentimos la culpa como nuestra y pedimos perdón en su nombre.

Para probar esta peculiar transferencia de la responsabilidad del avatar a nosotros mismos, los investigadores buscaron una situación menos dramática que un asesinato. Se creó una situación en la que los participantes del estudio mantenían una conversación con otra persona que se encontraba en otra habitación a través de un avatar. Este intermediario robótico cumplía los requisitos necesarios para reproducir el fenómeno de corporalidad mediada, pero se reservaba una sorpresa. En cierto punto del diálogo dejaba de reproducir textualmente las palabras de su 'amo' para intercalar otras que podían interpretarse como agresiones verbales. "Los resultados fueron muy chocantes", adelanta Aymerich.

Los participantes se disculpaban con su interlocutor por las acciones que el robot había emprendido de forma autónoma. "Siete de dieciséis lo hacían directamente, decían oye, perdona y trece mostraban lo que llamamos verbal repair -reparación verbal-, de alguna forma trataban de decir oye, mira, no has sido insultado", explica la investigadora. Para ella y sus compañeros, esta tendencia subraya la importancia de examinar los aspectos legales y morales asociados a las tecnologías de corporalidad mediada.

  • Doble problema
Avatar robótico empleado en el experimento

"Esto no sólo se restringe a los avatares robóticos, también afecta a los digitales -que empleamos, por ejemplo, en entornos de realidad virtual-; cuando tú estás dentro de un avatar, tu sentido del yo se extiende a ese avatar. Si este avatar sufre algún daño en ese momento en que hay la ilusión de embodiment, puede haber unas consecuencias psicológicas muy graves para la persona que resulta agredida", explica. En pocas palabras, el problema tiene dos filos: qué pasa si tu avatar ataca a alguien sin que tú lo puedas atacar, y qué pasa si es atacado. "Esto es lo que estamos intentando responder. Cómo hay que tenerlo en cuenta cuando estas tecnologías se lleven al mercado".

El objetivo final es conseguir que nos pongamos las pilas con este tema. Según Aymerich, ahora mismo ho hay conciencia del problema "porque el tipo de avatares que encontramos en el mercado aún no están suficientemente desarrollados como para que nos demos cuenta de la magnitud que puede tener esto en los próximos dos o tres años", pero no podemos dormirnos en los laureles. "Es muy importate hacer toda la parte del desarrollo ético ahora. Si esperamos tres años habrá llegado al mercado y no se habrán hecho las regulaciones pertinentes".

Retina

18/08/2019
07
¿Pero quién conduce este mundo?

¿Pero quién conduce este mundo?

No queremos que el robot se siente en la cabina, por si se hace con los mandos; pero lo cierto es que no controlaremos esas palancas sin su asistencia

Normas