La Policía Metropolitana de Londres ha puesto en marcha un sistema automatizado para evaluar el daño potencial que los miembros de las bandas imponen a la seguridad pública. Desde 2012, la iniciativa ha utilizado el procesamiento algorítmico para recopilar, identificar e intercambiar datos sobre personas relacionadas o pertenecientes a bandas (Amnistía Internacional, 2018). El sistema utiliza la información reunida para calcular dos puntuaciones: 1) la probabilidad de que un individuo se una a una banda y 2) su nivel de violencia.
Sin embargo, la Policía Metropolitana no ha revelado las métricas y criterios específicos utilizados para asignar “puntuaciones de daño”, lo que plantea interrogantes sobre la transparencia. Amnistía Internacional ha señalado que la “Estrategia para poner fin a las bandas y la violencia juvenil en Londres” de 2012 da pistas sobre este tema. De acuerdo con ello, cada miembro de la banda sería puntuado teniendo en cuenta el número de delitos que ha cometido en los últimos tres años “ponderado según la gravedad del delito y la fecha de su comisión”.
En un informe de Amnistía Internacional del Reino Unido se señalan diversas cuestiones, las más importante de las cuales son el riesgo que el sistema inflige a los jóvenes pertenecientes a comunidades vulnerables, así como su privacidad. El sistema ha sido criticado por su alta susceptibilidad a los prejuicios raciales. Por ejemplo, Dez Brown, un hombre negro condenado por homicidio involuntario a los 17 años, afirma que fue etiquetado erróneamente como un “gángster” por los jueces, cuando no pertenecía a ninguna band organizada en el momento de cometer el crimen (Francis, 2018). Él afirma,
“No estaba en una banda. Había una en la zona y yo tenía amigos, pero no trabajábamos como colectivo y no había jurado lealtad a ningún grupo. Es injusto decir que todas las personas involucradas en el crimen organizado estan en una banda, muchos están siendo explotados, algunos sólo tratan de sobrevivir. Pero en los juzgados, son etiquetados como parte de la banda y manchados con la misma brocha.”
