Sesgo de detección de caras de Nikon

En 2010, una familia taiwanesa americana descubrió lo que parecía ser una avería en la cámara Nikon Coolpix S630: cada vez que se hacían una foto sonriendo, un mensaje parpadeaba en la pantalla preguntando: “¿Alguien parpadeó?” Nadie lo había hecho, así que asumieron que la cámara estaba rota (Rose, 2010).

Se supone que la detección de rostros, una de las últimas tecnologías inteligentes en llegar a las cámaras de los consumidores, debería hacer que tomar fotos sea más práctico. Algunas cámaras con detección de rostros están diseñadas para advertirnos cuando alguien parpadea, otras se activan para hacer la foto cuando ven que la persona está sonriendo (Rose, 2010). La cámara de Nikon no estaba rota, pero su software de detección de rostros era muy inexacto, a menos que seas caucásico. Nikon no ha comentado el error en su software pero Adam Rose de la revista TIME ha ofrecido una explicación: el algoritmo probablemente aprendió a determinar el ‘parpadeo’ a partir de un conjunto de datos de mayoría de rostros caucásicos (ibid). El software no ha sido entrenado con ojos asiáticos y por lo tanto los confunde con el parpadeo. Este error subraya cómo los algoritmos deben diseñarse y probarse conscientemente teniendo en cuenta a todos porque, de lo contrario, el sesgo podría pasar a la imagen.