Se han introducido diversos instrumentos algorítmicos en el sistema penal de las jurisdicciones locales de los Estados Unidos, a fin de predecir la reincidencia e identificar las “zonas rojas” delictivas donde se debe priorizar el despliegue policial. Este fenómeno se hace eco de que el Instituto Nacional de Correccionales del Departamento de Justicia de los Estados Unidos promueve el uso de programas informáticos para crear un sistema de justicia penal más justo y eficiente (Angwin, 2016). Sin embargo, esas iniciativas han traído consigo sus propias consecuencias involuntarias.
La fuerza policial de la ciudad de Nueva York, el cuerpo de policía más grande de los EE.UU., ha implementado un software de predicción de delitos sobre la base de datos históricos de delitos, de acuerdo con variables geográficas e individuales, como afiliación a pandillas, antecedentes penales, datos de distribución territorial de eventos delictivos, etc. (Winston , 2018). Además de recibir críticas por ser racialmente sesgado, el sistema predictivo ha sido cuestionado con respecto a su opacidad, dado que las fuentes de sus conjuntos de datos no están disponibles públicamente (Winston, 2018).
Los sistemas de predicción de la reincidencia tienen como objetivo eludir los prejuicios y las deficiencias humanas. En general, deben servir como un valioso instrumento en manos del gobierno para reducir la discriminación contra las poblaciones vulnerables y, al mismo tiempo, permitir a los jueces tomar decisiones más precisas. Los sistemas se han promovido como la vía necesaria para crear un sistema de justicia más justo y comunidades más seguras. Sin embargo, esta visión no ha podido hacerse realidad.
