coche autonomo

¿Y si un coche autónomo sacrifica a sus pasajeros para no atropellar a un perro?

La consideración moral de los animales aviva el debate sobre los principios éticos que determinan las decisiones basadas en algoritmos.

Todo lo que camina sobre dos pies es un enemigo”. De haber sido más visionarios, los protagonistas de la novela satírica Rebelión en la granja (George Orwell, 1945) habrían estirado ese primer mandamiento para incluir hostilidades descritas por el mismo Orwell en otra de sus grandes obras. Porque ese omnipresente Gran Hermano de 1984 (1949) que hoy se compara con la invasión de nuestra intimidad mediante el uso de tecnología ya alcanza a cualquier especie. Como muestra, un paseo por YouTube deja claro en varios vídeos la reacción de animales no humanos al toparse con drones que investigan su comportamiento.

Esos cachivaches esconden peligros para las criaturas que habitan la naturaleza. Por ejemplo, un informe de la Universidad de Minnesota demostró que la cercanía de drones hace que las pulsaciones de los osos negros se disparen hasta 123 veces más por encima de su ritmo cardiaco habitual. Por casos como este, en 2011 la Open University de Reino Unido creó el Laboratorio ACI (Animal-Computer Interaction), que estudia la interacción entre animales y tecnología en entornos naturalistas para diseñar propuestas que respalden el bienestar de todos los seres vivos.

“Cualquier compañía que desarrolle este tipo de tecnología debe esforzarse por colocar a los animales y a sus requerimientos en el centro del proceso de diseño, con el fin de obtener su consentimiento y respetar tanto su integridad como su autonomía a la hora de investigar con ellos”, señala a EL PAÍS Retina Clara Mancini, profesora de Diseño de Interacción de la Escuela de Informática y Comunicaciones y jefa del Laboratorio ACI de la Open University. Mancini también insta a considerar a largo plazo los efectos de la tecnología en los animales y el medio ambiente: “Posiblemente, la crisis climática a la que hacemos frente deriva del hecho de que hemos priorizado nuestros propios intereses por encima de los de las demás especies, lo que altera el equilibrio biológico del que dependemos todos los animales, humanos y no humanos”.

La vida privada de los animales

Los riesgos para los animales crecen a medida que se aplican soluciones más disruptivas como internet de las cosas (IoT) o inteligencia artificial (IA), incluso si se usan con buenas intenciones. Ulises Cortés, profesor de IA en la Universidad Politécnica de Cataluña y coordinador científico del grupo de IA de Alto Rendimiento en el Centro de Supercomputación de Barcelona, saca a relucir proyectos que exploran la vida salvaje para conocer a fondo conductas y movimientos de algunos animales mediante sensores que recaban datos que posteriormente son analizados. “Se trata de información muy valiosa en casos de peligro de extinción porque ayuda a poner remedio, pero si esos datos científicos caen en manos equivocadas, como las de un cazador furtivo, el daño puede ser irreparable”, señala.

Según Cortés, aunque nos interese conocer a fondo a los animales para ayudarlos, hay un cierto tipo de información que es privada porque “habla de su vida”, así que tienen que existir unas reglas muy claras sobre cómo tratarlos “con dignidad, sin provocarles ningún perjuicio”. En ese planteamiento, el profesor incluye un uso ético de la IA para evitar una mayor explotación de los animales, como una posible monitorización y automatización de tareas para incrementar la producción en una granja industrial. “No es algo trivial de responder porque hay economías de mercado donde lo menos importante es la ética”, puntualiza.

Óscar Horta, miembro de la fundación Ética Animal y profesor de Filosofía, Moral y Política en la Universidad de Santiago de Compostela, también teme esa explotación masiva: “Si bien es cierto que poco a poco la sociedad se va concienciando para frenar esa crudeza, los seres humanos ya causan daños terribles a los animales”.

En su opinión, para que la IA no potencie ese maltrato, es necesario revisar el funcionamiento de los algoritmos programados por los humanos para determinar qué sujetos pueden verse perjudicados o beneficiados frente a otros, una cuestión que no se diferencia del debate general sobre la consideración moral de los animales. Aquí entran en escena experimentos como la Máquina Moral del MIT, un juego en el que hay que elegir quién muere en el caso de un accidente cuya resolución depende de un coche autónomo.

Según sus creadores, la idea es “recopilar perspectivas humanas” sobre las decisiones que debe tomar una inteligencia artificial ante un dilema ético. Tras analizar más de 40 millones de respuestas de 2,3 millones de participantes de todo el mundo, uno de los patrones comunes fue la predilección de las personas sobre los animales. “La mera pertenencia a una especie no es un criterio sólido para priorizar, así que muchas veces los animales son discriminados de manera injustificada por unas pautas que no son moralmente relevantes”, apunta Horta.

Según este profesor, lo importante es el hecho de poder sufrir y disfrutar, de tener experiencias negativas o positivas. “Y como los animales sienten eso, sería injusto que la IA discriminase en función de la especie”, concluye.

 

 

Principios éticos en ACI

Carla Mancini afirma que muchos expertos en ACI son conscientes de la importancia de respetar la integridad y la autonomía de los seres vivos durante sus investigaciones. “Sin embargo, aún existe margen de mejora, ya que los animales a menudo son vistos como objetos de investigación cuando en realidad son parte interesada, participantes y codiseñadores”, recalca. Según el manifiesto firmado en 2011 que dio origen a esta disciplina, ACI adopta un enfoque de estudio no especista y sus investigadores tienen las siguientes responsabilidades:

  • Reconocer y respetar las características de todas las especies que participan en la investigación, sin discriminar.
  • Tratar a los participantes humanos y no humanos como individuos que merecen, según sus necesidades, el mismo grado de consideración, respeto y cuidado.
  • Trabajar con una única especie solo si la intención es ampliar conocimientos o desarrollar tecnología que sea beneficiosa para esa especie en particular.
  • Proteger a los participantes humanos y no humanos del daño físico o psicológico, empleando métodos de investigación no invasivos, no opresivos y no privativos.
  • Permitir a los participantes humanos y no humanos la posibilidad de retirarse de la interacción en cualquier momento, ya sea temporal o permanentemente.
  • Obtener el consentimiento de los humanos y animales involucrados, ya sea de los propios participantes o de sus responsables legales (en el caso de los animales).

Más información

Retina

25/08/2019
Normas