El Departamento de Policía de Nueva York ha desarrollado su propio sistema algorítmico de identificación facial utilizado tanto en investigaciones rutinarias como en actos criminales concretos, como los ataques terroristas (Fussell, 2018). El sistema compara los datos biométricos almacenados en su base de datos para verificar antecedentes penales anteriores e identificar sospechosos (Garvie, et al., 2016). Los críticos argumentan que el sistema carece de transparencia, ocultando operaciones internas que han llevado a resultados sesgados (Ibid).
Existe una controversia sobre la tendencia que tiene el sistema a la identificación errónea. Se ha demostrado que el reconocimiento facial sólo es preciso cuando se trata de hombres blancos (Lohr, 2018). Un estudio demostró que “cuanto más oscura es la piel, más errores surgen” (ibíd.). La inexactitud desproporcionada de la tecnología con respecto a las personas de color ha provocado un debate sobre el impacto de esos sistemas en la privacidad y los derechos civiles de las minorías raciales, lo que ha llevado a los abogados de Georgetown a demandar a la policía de Nueva York por la opacidad del software de reconocimiento facial (Fussel, 2017). Uno de los principales obstáculos a la divulgación de estos sistemas es el hecho de que a menudo los algoritmos de este tipo son patentados, en el caso de la policía de Nueva York el software fue desarrollado por IBM.
