Sesgo de género en los sistemas de reconocimiento facial.

Un estudio publicado por el MIT Media Lab a principios de 2019 encontró que el Rekognition, el sistema de reconocimiento facial de Amazon, funcionaba peor cuando se identificaba el género de un individuo si era mujer o de piel más oscura. El Rekognition no cometió ningún error al identificar el género de los hombres de piel clara, pero confundió a las mujeres con los hombres el 19% de las veces y confundió a las mujeres de piel más oscura con los hombres el 31% de las veces (Raji y Buolamwini, 2019). Del mismo modo, una prueba previa realizada por la ACLU (Unión Estadounidense por las Libertades Civiles) descubrió que mientras escaneaba imágenes de miembros del Congreso, Rekognition emparejó falsamente a 28 personas con fotos policiales (Cagle y Ozer, 2018).

Poco después de que se publicara el informe de Buolamwini, Microsoft, IBM y la empresa china Megvii se comprometieron a mejorar su software de reconocimiento facial, mientras que Amazon, en comparación, negó que la investigación sugiriera algo sobre el rendimiento de su tecnología (Vincent, 2019).

El grave peligro de Amazon Rekognition es su inexactitud junto con su ubicuidad; la tecnología de Amazon ha sido contratada por una serie de gobiernos y empresas privadas. Por ejemplo, la policía de Orlando usa el software para identificar, rastrear y analizar personas en tiempo real. El sistema puede reconocer hasta 100 personas en una sola imagen y puede escanear rápidamente la información que recopila en bases de datos con decenas de millones de caras (Cagle y Ozer, 2018). Aegún marketing de Amazon, Rekognition considera que el despliegue por parte de las agencias policiales es un “caso de uso común” para esta tecnología. Entre otras características, la compañía describe el “seguimiento de personas” como una forma “fácil y precisa” de investigar y monitorear personas (Cagle y Ozer, 2018). Los defensores de las libertades civiles especulan con que esa tecnología podría utilizarse fácilmente contra las poblaciones vulnerables y los grupos de desobediencia civil.