Los sistemas de vigilancia predictivos se han generalizado en los Estados Unidos y están ganando popularidad en el Reino Unido. La policía de la ciudad de Kent, Inglaterra, fue el primer cuerpo policial británico en desplegar vigilancia predictiva, utilizando el software de una popular empresa estadounidense llamada PredPol en 2013. La policía encontró que la tecnología era “realmente útil”, con la violencia callejera cayendo en un 6% después de una prueba de cuatro meses (la policía de Kent dejó de usar software de predicción de delitos, 2018). A pesar de que el software permite una mayor eficiencia para la fuerza policial, un examen más detallado de su lógica interna pone luz en los impactos peligrosos para la sociedad.
Como señala Cathy O’Neil (2018), estos sistemas no intentan predecir directamente el comportamiento individual, sino que señalan las áreas geográficas donde es más probable que ocurra el crimen. Aunque parece ser una forma objetiva de predecir y hacer frente a la delincuencia, el algoritmo resulta susceptible a un debilitante bucle de retroalimentación que inflige daños a las comunidades marginadas. Dado que los delitos graves y violentos se producen con menor frecuencia que los delitos que más que nada son molestos o de poca monta, los delitos de menor envergadura constituyen una porción mayor del conjunto de datos del algoritmo. Como resultado de esto, el modelo tiende a dirigir la atención de la policía a este tipo de delitos, que generalmente se llevan a cabo en barrios de clase trabajadora o de miorías (ídem). Dado que se envía a la policía a patrullar estas zonas específicas, se informa al algoritmo de que hay más actividad delictiva en estas zonas. Este proceso confirma la predicción del algoritmo e instaura un bucle de retroalimentación en el que los vecindarios de clase trabajadora o de minorías continúan siendo sobre-vigialdos y sobre-registrados.
La policía de Kent suspendió el uso de PredPol en 2018 (BBC News, 2018), cinco años después de su implementación. Hasta donde sabemos, las potenciales desigualdades sociales causadas por el sistema no motivaron esta decisión.
