Algoritmos

Algoritmos, y los datos que procesan, desempeñan un papel cada vez más importante cuando hay que realizar predicciones, en la toma de decisiones y en la elaboración de recomendaciones. Muchos de nosotros ya recibimos inocuas recomendaciones de libros, una ruta más eficiente hacia un destino o incluso una estrategia ganadora para jugar al Go. Sin embargo, ¿qué ocurre con las decisiones mejoradas algorítmicamente que determinan la admisión a la universidad, la aprobación de un préstamo o las perspectivas laborales? ¿Son igualmente inofensivas?

Aunque existe la idea de que en gran medida las máquinas son árbitros neutrales, entidades que siempre toman la decisión correcta o que ven patrones que nuestras mentes humanas no pueden o no quieren ver, ¿son realmente neutrales? ¿O son los algoritmos una forma de amplificar y extender los prejuicios y la discriminación que prevalece en la sociedad? Los grandes avances en el aprendizaje automático han animando a las empresas e instituciones a confiar en el Big Data y en la toma de decisiones algorítmicas con la presunción de que estas decisiones son eficientes e imparciales. Pero esta tendencia también ha dado lugar a demandas de una mayor rendición de cuentas en el diseño e implementación de los algoritmos, y la preocupación por la aparición de la discriminación algorítmica.

La verdad es que los algoritmos son construcciones sociales tanto como son cálculos matemáticos. Como cualquier otra tecnología, capturan y reproducen las dinámicas sociales, pero estas dinámicas a menudo derivan en opacos debates técnicos. Sin embargo, una auditoría algorítmica y un enfoque multidisciplinar son formas nuevas e innovadoras de enmarcar de forma seria y rigurosa esta cuestión, así como de comprender qué son los algoritmos y el papel que desempeñan en nuestra sociedad.