Hipócrates
Hipócrates
Ideas Retina

El juramento hipocrático de los científicos de datos

¿Deberían los programadores de algoritmos, igual que hacen los médicos, suscribir una serie de principios que guíen su trabajo? La matemática y activista Cathy O'Neil cree que sí

En su más que recomendable libro Armas de destrucción matemática. Cómo el ‘big data’ aumenta la desigualdad y amenaza la democracia, Cathy O’Neil expone los motivos que nos deben hacer temer la forma en que se usan los algoritmos. La matemática y activista subraya que los modelos no son malos per sé: detrás de cada uno de ellos hay uno o varios autores que, de forma más o menos premeditadas, habrán desarrollado un algoritmo que pueda castigar a las personas.

“Los algoritmos no son más que opiniones encerradas en matemáticas”, escribe la autora. Y lo demuestra revisando cómo se están empleando los algoritmos en la actualidad en campos tan diversos como la universidad (estimando las probabilidades de que los futuros alumnos puedan pagar la matrícula), en la publicidad (excluyendo a los usuarios con menos ingresos de anuncios de productos que quizás les puedan interesar pero que probablemente no puedan pagar) o en banca (calculando la solvencia de las personas para ofrecerles un tipo de interés nivelado a su nivel estimado de riesgo).

Hacia el final del libro, O’Neil habla de un juramento hipocrático que deberían suscribir todos los programadores de este tipo de modelos. Lo toma prestado del que redactaron en 2008, tras la crisis financiera, los ingenieros Emanuel Derman y Paul Wilmott.

Dice así:

  • Recordaré que no he creado el mundo, y que este no satisface mis ecuaciones
  • Aunque emplee audazmente modelos para estimar valor, no me dejaré impresionar excesivamente por las matemáticas
  • Nunca sacrificaré la realidad por elegancia sin explicar por qué lo he hecho
  • Tampoco proporcionaré a quienes usen mis modelos una falsa sensación de seguridad sobre su precisión, sino que haré explícitos supuestos y omisiones
  • Reconozco que mi trabajo puede tener enormes efectos sobre la sociedad y la economía, muchos de ellos más allá de mi comprensión

“Se trata de una buena base filosófica”, dice O’Neil, “pero la autorregulación y unos valores sólidos solo contendrán a los escrupulosos”, advierte.

Retina

20/02/2019
Los coches eléctricos piden oxígeno
01

Los coches eléctricos piden oxígeno

En 2040 las baterías de iones de litio habrán quedado atrás y los vehículos a pilas se alimentarán con acumuladores de litio-oxígeno o polímeros de grafeno, más sostenibles, baratos y eficientes

02

El hidrógeno quiere correr

Los vehículos de pila de combustible no emiten gases contaminantes, no hacen ruido y su depósito se llena con rapidez. Parecen la alternativa perfecta de futuro. Entonces, ¿por qué van por detrás de otras tecnologías?

El hidrógeno quiere correr
04

Uber, Google, Facebook, Airbnb... ¿Quién paga más?

Salary Project se ha propuesto llevar la transparencia al mundo de las nóminas para favorecer la igualdad y mejorar la toma de decisiones laborales. Por cierto, de mayor quieres ser ingeniero de software en Netflix

Uber, Google, Facebook, Airbnb... ¿Quién paga más?
06

¿Progreso? ¿Qué progreso?

No sabemos siquiera si existe el progreso. La tecnología avanza porque una innovación se basa en la anterior. Pero, ¿se aplica esto al progreso?

¿Progreso? ¿Qué progreso?
Normas