El algoritmo no es tan malo
Retina SQL

El algoritmo no es tan malo

Lorena Jaume-Palasí, fundadora de Ethical Tech Society, uno de los referentes en ética algorítmica, cree que la sociedad está antropomorfizando las fórmulas matemáticas, debatiendo sobre su moral

Cuando se introdujo el coche en las ciudades no había señales de tráfico ni normas de seguridad vial. Los accidentes de tráfico empezaron a acumularse y la gente le echó la culpa a las máquinas. Proyectaron sobre ellas rasgos antropomorfizantes. Había fallos judiciales sobre si los automóviles eran seres morales o no. Hubo un debate social sobre su responsabilidad en los accidentes. Era una locura. “Estamos en una situación que recuerda un poco a aquel momento”, aseguró Lorena Jaume-Palasí en el evento Retina SQL. Esta investigadora en la Universidad libre de Berlín cree que la sociedad está antropomorfizando a los algoritmos, debatiendo sobre la moral de fórmulas matemáticas.

No es que la experta tenga una visión optimista del asunto, es la fundadora de Ethical Tech Society, uno de los referentes en ética algorítmica. Pero cree que no son los algoritmos sino los humanos los que los programan, quienes pueden tener ciertos sesgos. “Estamos hablando de una tecnología que ni es buena, ni es mala, ni es neutral. Son una formulación matemática de las presuposiciones y prejuicios que tenemos en nuestra sociedad”.

Jaume-Palasí cree que esta tecnología es la infraestructura del futuro. “Y como toda infraestructura lo que hace es modelar sociedades, organizar el poder y con ello decidir quién tiene acceso a servicios sociales, a ciertos espacios”. Los algoritmos dan acceso o lo deniegan a trabajos, ayudas y espacios de poder.

Es la infraestructura del futuro, pero para entenderla hay que echar la vista al pasado. Jaume-Palasí no se detiene con la entrada del automóvil en las carreteras y echa la vista aún más atrás. “Este tipo de datificación lleva 500 años en ello, un concepto de racionalidad que asume que hay una posición en la que el ser humano se puede separar de su piel, que como un punto neutral se pueden hacer observaciones neutrales sobre el mundo”, asegura. Esta tendencia, que arrancó con el humanismo y la ilustración, influye en la forma estanca en la que percibimos nuestra realidad. Desde el binarismo de género hasta la clasificación los colores. “La ambivalencia, la riqueza humana son muy difíciles de convertir en datos. Es mucho más compleja”.

Disfruta nuevamente de la participación de Lorena Jaume-Palasí en Retina SQL, un evento impulsado por Santander y Telefónica, con el apoyo de Accenture, Cepsa, PMI y Servicenow.

 

Normas