Pablo Rodríguez
Pablo Rodríguez
Futuro

“Hay que actuar ahora que la inteligencia artificial está en nuestras manos”

Hablamos con el director de Telefónica Alpha de su libro sobre inteligencia artificial, de lo que se cuece entre las bambalinas técnicas y de los límites y retos tecnológicos y sociales que la IA plantea

“Casi todos los problemas importantes del ser humano se pueden abordar usando los datos y la inteligencia artificial”. Así comienza el prólogo del libro que Pablo Rodríguez, director ejecutivo de Alpha -el Google X de Telefónica- acaba de publicar. Se titula Inteligencia artificial. Cómo cambiará el mundo y tu vida y trata de eso: de cómo usar esta tecnología para el bien personal y social, y de “su potencial para transformar el mundo por completo”.

Rodríguez, un CEO con un perfil muy científico y poco usual, se considera un optimista respecto a las posibilidades de la IA. “Está en nuestras manos utilizarla para resolver grandes retos que tenemos hoy: disfrutar de un planeta mejor, con menos desigualdades y más oportunidades para todos”, afirma. Por eso cree que lo que más puede sorprender de su libro es “que hay una versión muy positiva sobre inteligencia artificial, que muchas veces parece que da miedo”.

Entrevistamos al ingeniero a su regreso de SIGCOMM 2018, uno de los eventos anuales de la Asociación de Maquinaria Informática de EE.UU (la ACM, por sus siglas en inglés), donde la IA ha sido protagonista. De allí se trae tres tendencias clave. La primera es su uso para detectar problemas de cableado, mediante cámaras con sistemas de visión artificial que permitan incluso actuar antes de que se produzca la incidencia. “Hoy en día un centro de datos de una gran compañía es más complejo de lo que era todo internet a mediados de los años 90. Usar cables inteligentes con sensores capaces de detectar fallos es muy caro y con la IA sería mucho más barato”, comenta.

Otra área en la que están poniendo mucho foco los científicos es lo que se conoce como edge computing: desarrollar redes que permitan procesar la IA cada vez más cerca del usuario. ¿Para qué? Para que se puedan producir operaciones en tiempo real y que las personas en una videoconferencia puedan interactuar naturalmente, o para reducir al máximo el retardo en experiencias de realidad virtual y evitar así posibles mareos.

La tercera tendencia que más atención está recibiendo es el desarrollo de redes autónomas que se autoconfiguran con muchos datos, usando inteligencia artificial. “De alguna manera tienen vida propia y son capaces de asignar los recursos que se necesitan y cuando se necesitan, e incluso cambiar la estructura física de internet en tiempo real”, afirma Rodríguez. 

El ingeniero cree que todo esto supone el comienzo de una nueva era. “Responde a la necesidad de crear una capa de inteligencia en internet, que hasta ahora se centraba en la distribución de contenidos y ahora suma la computación de la IA”. Una capa “más centrada en el usuario, que ayude a hacer redes más inteligentes que faciliten algoritmos más rápidos y más potentes”, señala. 

Urgente, importante, futuro

Lo más urgente en el desarrollo de la IA, según Pablo Rodríguez, es llevar el desarrollo de algoritmos y de los sistemas de computación al próximo nivel, de forma que no sean necesarios tantos datos para entrenarlos. “Es fundamental para no frenar el avance de la inteligencia artificial que hemos visto en los últimos diez años”, afirma. ¿Y qué es lo más importante? En su opinión, abordar el reto de los sesgos y de entender mejor cómo los algoritmos llegan a un resultado concreto y toman decisiones que pueden ser muy importantes en la vida de las personas.

Una caja negra

Los avances en inteligencia artificial chocan, no obstante, con sus propios límites y retos. A nivel técnico, es necesario reducir su consumo de energía. “La cantidad que utiliza la IA para resolver un problema complejo es muchos miles de veces mayor que la que emplea un cerebro humano, por lo que puede haber una relación interesante de colaboración: los humanos con su capacidad de intuición para inferir qué problemas hay que resolver y la IA con su capacidad de hacerlo efectivamente”, señala el director de Alpha.

Avances en salud

En su visión de futuro hay grandes avances en salud -más personalizada- o en educación, con aprendizajes cada vez más profundos. También visualiza a las personas con extensiones tecnológicas que permitan trascender a la capacidad física humana, como computar cosas complejas de sentir o controlar objetos de forma remota. “Probablemente las distancias se acortarán todavía más, con mundos virtuales reales más cercanos, donde el reto será volver a plantearnos nuestro rol como personas. Volver a conectar con aquello que nos hace humanos, como el amor o la solidaridad. Tenemos por delante dos décadas fascinantes para definir los próximos 200 años”.

Por otra parte está la incapacidad de esta tecnología de transferir conocimiento. “Si entrenas un sistema de IA con un conjunto de datos para encontrar tumor en radiografía y luego lo usas para encontrar gatos en una foto, cuando quieras volver a emplearlo para buscar un tumor ya no será capaz de hacerlo. Es lo que se llama ‘olvido catastrófico’, algo que a los humanos no nos pasa”, comenta el ingeniero. “Cuando las personas aprendemos un idioma, eso mejora el aprendizaje del segundo, y viceversa. Esto con máquinas no sabemos cómo hacerlo. Su inteligencia está aún al nivel del cerebro de un ratón”, añade.

Otro de los grandes retos que plantea la IA es conocer cómo toma las decisiones, cómo llega hasta cada resultado. “La IA es todavía es una caja negra, aún no se sabe explicar ni interpretar por qué hace lo que hace, algo fundamental en situaciones críticas en las estás definiendo el futuro de una persona”, afirma Rodríguez. Cree, no obstante, que es algo que se logrará “pero que requiere que se mezclen perfiles que no están acostumbrados a trabajar juntos como gente del mundo de la estadística e ingenieros”, afirma.

En su opinión, disponer de modelos que logren explicar estos procesos y saber por qué algo falla o por qué funciona bien es clave para que las personas confíen en los resultados obtenidos a partir de estas tecnologías. Entre otras cosas, para que no pase como con la polémica COMPAS, una herramienta de análisis de riesgo criminal basada en IA que aprendía de todas las sentencias realizadas en los años anteriores, que ha sido sistemáticamente rechazada por los jueces a pesar de haberse demostrado -dice Rodríguez- que comete menos errores que estos. “El juez se encuentran en la disyuntiva de si confiar en su criterio o en el de la máquina, sin saber en base a qué datos específicos ni a qué fórmula ha tomado esta su decisión”, explica.

Otro de los principales retos de la IA es el de la imparcialidad. Los sesgos de sus programadores o de los datos que la alimentan, que ya están teniendo efectos reales. La discriminación es una de sus principales consecuencias, ya sea por género o por raza (los más frecuentes) o por cualquier otro parámetro que esté presente de forma desproporcionada en las bases de datos o que sea susceptible de un juicio por parte de quien desarrolla la tecnología.

¿Cómo evitar los sesgos? Introduciendo datos que equilibren la balanza, formando a las personas detrás de estas tecnologías para que entiendan las implicaciones de su trabajo y cómo hacerlo de forma ética, y conformando equipos de desarrollo más diversos, dice Rodríguez. La transparencia se suma a la justicia y a la fiscalización como el tercer requisito fundamental al que debe aspirar el desarrollo de algoritmos, de acuerdo con el ingeniero, que aboga por sistemas de código abierto. Cree que esta es además la solución para acabar con la dualidad entre seguridad y privacidad: que los ciudadanos no solo sepan sino que entiendan cómo se está utilizando su información.

Entre apostólicos y apocalípticos

Por lo obvio, Rodríguez rechaza las visiones extremas sobre la IA. “Ni nos va a solucionar todo ni nos va a reemplazar. Nos hará la vida más fácil pero también vamos a tener que trabajar para resolver los problemas que presenta, si no queremos llegar a la realidad distópica que aparece en las películas”, afirma. Cree que las máquinas nos liberarán en cierto modo y permitirán las personas enfocarse en aquello en lo que puedan aportar más valor. “De acciones mecánicas que se pueden programar pasaremos a tareas donde el factor humano será clave, ya sea el manejo de relaciones, resolver conflictos, proporcionar cuidados, tomar decisiones complejas para las que las máquinas no están adaptadas, etc.”, comenta.

Todas las revoluciones han traído la promesa de la liberación, pero los datos dicen que el empleo cae y aumenta la desigualdad social. ¿Por qué iba a ser diferente esta vez? “Es un problema que no es ni de las máquinas ni de los ingenieros sino de la sociedad. Necesitamos un marco común de valores y un nuevo contrato social. Antes nos parecía normal que trabajasen los menores y que no hubiera vacaciones y después de la Revolución Industrial adquirimos esos derechos. Necesitamos una nueva transición tanto a nivel de modelo como emocional, entender que formamos parte de algo más grande que debemos liderar y que debemos encontrar el camino para hacerlo. ¿En qué sociedad queremos vivir? ¿Hacia dónde se está moviendo el valor? La discusión ya ha empezado”, señala Rodríguez.

El ingeniero cree que cada vez será más importante la figura del filósofo, que viene a plantear el propósito con el que hacemos las cosas. También cree que “hay que desarrollar un nivel más elevado de conciencia en el mundo tecnológico”. En parte, como respuesta a la creciente necesidad de apearnos, de desconectar para volver a conectar.

Si pudiera añadir un capítulo más a su libro, sería sobre la importancia de desarrollar la inteligencia humana y de que cada cual se enfoque en su propio crecimiento personal. “Entender que todos los retos que tenemos delante dependen de nosotros y de dónde ponemos nuestra atención. Tenemos que ser capaces de controlarlo porque sus implicaciones van a impactar a todo el mundo: en el trabajo, en la salud, en nuestros hijos… Y la capacidad de definirlo está todavía en nuestras manos”, concluye. 

Retina

21/10/2018
Normas