Algoritmos

Algoritmos, y los datos que procesan desempeñan un papel cada vez más importante en las predicciones, la toma de decisiones y las recomendaciones. Muchos ya reciben inocuas recomendaciones de libros, una ruta más eficiente hacia un destino o incluso una estrategia ganadora para jugar al Go. Sin embargo, ¿qué ocurre con las decisiones mejoradas algorítmicamente que determinan la admisión a la universidad, la aprobación de un préstamo o las perspectivas laborales?

Aunque hay la idea de que en gran medida las máquinas son árbitros neutrales, entidades que siempre toman la decisión correcta o que ven patrones que nuestras mentes humanas no pueden o no quieren, ¿son realmente neutrales? ¿O son los algoritmos una forma de amplificar y extender los prejuicios y la discriminación que prevalece en la sociedad? Los grandes avances en el aprendizaje automático han animando a las empresas e instituciones a confiar en el Big Data y en la toma de decisiones algorítmicas con la presunción de que estas decisiones son eficientes e imparciales. Pero esta tendencia también ha dado lugar a demandas de una mayor responsabilidad en el diseño e implementación de los algoritmos, y la preocupación por la aparición de la discriminación algorítmica.

La verdad es que los algoritmos son construcciones sociales tanto como cálculos matemáticos. Como cualquier otra tecnología, capturan y reproducen las dinámicas sociales, pero estas dinámicas a menudo derivan en opacos debates técnicos. Sin embargo, una auditoría algorítmica y un enfoque multidisciplinar son formas nuevas e innovadoras de enmarcar de forma seria y rigurosa esta cuestión, así como de comprender qué son los algoritmos y el papel que desempeñan en nuestra sociedad.

NUESTROS PROYECTOS

Con el auge del Big Data, ha proliferado el uso de algoritmos con el fin de agilizar, mejorar y hacer más eficientes los procesos de toma de decisiones. Dado que estos algoritmos son adaptativos y han sido creados para aprender de los humanos, también aprenden los habituales prejuicios humanos relacionados con la raza, el género, la edad o la nacionalidad, entre otros. Con el objetivo de arrojar un poco de luz sobre esta nueva problemática, hemos creado este observatorio mundial que empieza examinando más de 90 casos de discriminación algorítmica y sus impactos en diferentes ámbitos sociales.

Eticas Foundation, Open Society Foundations, Visualizar18-Medialab Prado

Gracias a la inteligencia artificial, los algoritmos pueden ser entrenados aprendiendo de los datos. Pero lo que hace un algoritmo depende en buena medida de lo buenos que sean esos datos. En este proyecto nos hemos centrado en cuando los datos se recoletan, se pre-procesan y se almacenan, para llegar a conocer los problemas que entrañan los datos antes que intervenga el algoritmo. Y hemos visto como el bad data juega un papel importante en todo tipo de procesos y accionesque dependen de esta automatización que interviene en la toma de decisiones y eso tiene un impacto muy importante en nuestros derechos fundamentales básicos.