Policía predictiva en Oakland, California

En 2015, el Departamento de Policía de Oakland (OPD) implementó un algoritmo diseñado por la empresa estadounidense PredPol para predecir futuros delitos de drogas. Al igual que otros programas de predicción policial, el sistema predice las zonas geográficas en las que es más probable que se produzcan delitos basándose en los informes sobre delitos de los conjuntos de datos históricos. El Grupo de Análisis de Datos de Derechos Humanos encontró que el algoritmo estaba sesgado en contra de los vecindarios habitados principalmente por personas de bajos ingresos y minorías (Lum, 2016). Atribuyen ese sesgo al hecho de que la mayoría de los delitos de drogas se registraron anteriormente en esos barrios, por lo que los agentes de policía se dirigieron por el algoritmo a comunidades ya sobrevigiladas. Por ello, el Grupo de Análisis de Datos de Derechos Humanos sostiene que el algoritmo falló: no desentrañó las percepciones basadas en datos sobre el consumo de drogas que la policía desconocía, sino que reforzó las desigualdades establecidas en torno a la vigilancia de las drogas en los barrios de bajos ingresos y de minorías (Ibíd.).

Entradas relacionadas