Cómo los algoritmos programan la desigualdad
Retina SQL

Cómo los algoritmos programan la desigualdad

Virginia Eubanks, profesora asociada de Ciencia Política en la Universidad de Albany, analiza el impacto de la digitalización en la sociedad

Los datos esconden historias humanas. Virginia Eubanks cuenta algunas de ellas en La automatización de la desigualdad (Capitán Swing, 2021). El ensayo de esta profesora asociada de Ciencia Política en la Universidad de Albany investiga la forma en la que los algoritmos perpetúan desigualdades sociales. Ha dado la vuelta al mundo. Puede que sea por la forma en la que analiza conceptos tecnológicos y los hace accesibles, explicando casos concretos. Eso fue exactamente lo que hizo en su intervención en el foro Retina SQL. Surviving the Quantum Leap [sobreviviendo al salto cuántico], que contó con el impulso de Santander y Telefónica y el apoyo de Accenture, Cepsa, PMI y Servicenow. “Las conversaciones sobre tecnología son muchas veces abstractas, así que en vez de hablar sobre las herramientas que menciono en el libro empezaré a hablar de algunas de las personas a las que entrevisté para escribirlo”, explicó.

La automatización de la desigualdad está dedicado a Sophie Stripes. “Su historia ilustra cómo las nuevas herramientas para conceder ayudas públicas pueden automatizar la austeridad”, afirmó la experta. Stripes tenía seis años y parálisis cerebral cuando recibió una carta del estado de Indiana comunicándole que iba a perder Medicare, su seguro médico. El motivo: no había cooperado para determinar su elegibilidad para el programa. Más de un millón de personas recibieron una carta similar ese año en el estado de Indiana. Las denegaciones de beneficios subieron un 54% respecto a los tres años anteriores. Lo que había sucedido es que la administración había sustituído a trabajadores sociales por un algoritmo que decidían quienes podían acceder a ciertas ayudas. Pero era un sistema muy rígido, inflexible y cuando detectaba cualquier fallo administrativo simplemente denegaba la ayuda, sin señalar cómo subsanar el error. La familia de Sophie tuvieron que convertirse en sus propios trabajadores sociales y solucionar los problemas por sí mismos.

La suya es solo una historia más de las que encierran el mal uso de los algoritmos. Podría haber quedado sepultada bajo millones de datos pero la autora quiso destacarla para ejemplificar la idea que subyace en todo su libro, y que guió toda su intervención: las sociedades pueden volverse más desiguales a medida que se digitalizan. Hay que estar atentos para que eso no suceda.

 

Normas