Etiquetado racista de Google Imágenes

En mayo de 2015, Google lanzó una aplicación para compartir y almacenar fotos llamada “Google Imágenes”. Google Imágenes tiene un sistema algorítmico que agrupa las fotos etiquetando automáticamente los álbumes de la gente. Al principio, los algoritmos de etiquetado de Google Imágenes funcionaban bien, hasta que se reveló un error del sistema para reconocer rostros de piel oscura, al etiquetar a las personas negras como “gorilas”. Jacky Alcine, un joven de Nueva York, descubrió este error de sesgo cuando revisó su cuenta de perfil de Google Imágenes el 28 de junio de 2015. Se dio cuenta de que el algoritmo de reconocimiento de imágenes generaba una carpeta titulada ‘Gorilas’, que solo contenía imágenes de él y su amigo.

Tres años después, Wired reveló que Google “solucionó” el problema pero redujo las funcionalidades del sistema, ya que la compañía habría bloqueado por completo los algoritmos de fotos de Google destinados a identificar a los gorilas (Simonite, 2018).