En 2015 la Delegación del Gobierno contra la Violencia de Género realizó una macro-encuesta sobre violencia contra la mujer en las relaciones de pareja en España. De ella se dedujo que el 10.3% de las mujeres de 16 o más años habían sufrido violencia física a lo largo de su vida y que la cifra ascendía al 25.4% en el caso de la violencia psicológica. Esa encuesta, y otros análisis previos, dieron lugar al desarrollo del sistema VioGén (Sistema de Seguimiento Integral en los Casos de Violencia de Género) por parte de la Secretaría de Estado de Seguridad del Ministerio del Interior.
Eticas Foundation es una organización sin ánimo de lucro que trabaja para proteger a las personas en procesos tecnológicos. Uno de sus ámbitos de especialización es la auditoría de algoritmos (accede a nuestra Guía de Auditoría Algorítmica aquí) y la discriminación en sistema de Inteligencia Artificial (IA), por lo que hemos estado siguiendo VioGén. Por eso, en 2018 realizó el Análisis de Impacto Algorítmico, hipótesis de sesgo y metodología de autoría de VioGén. El informe estableció un completo estado del arte sobre las bases teóricas del sistema y sus formas, posibles y contrastadas, de impacto social. Sobre esta base, el documento propone una serie de hipótesis de sesgo y una metodología para su auditoría algorítmica centrada en identificar su grado de eficiencia por grupos culturales, socioeconómicos y territoriales. Incluso, Eticas se ofreció a desarrollar una auditoría interna pro bono de VioGén.
Ahora, en un momento especialmente preocupante en torno a la violencia de género, Eticas, en alianza con la Fundación Ana Bella, que trabaja con mujeres afectadas por la violencia machista y la violencia doméstica, realizará una auditoría externa para aportar transparencia al proceso algorítmico y concienciar a la ciudadanía de la importancia de abrir las cajas negras en que se convierte la IA.
Las auditorías de algoritmos externas son aquellas desarrolladas sin acceso al código. Para realizarla, se utilizan métodos de ingeniería inversa que permiten conocer el funcionamiento a través de los inputs y outputs conocidos. Las auditorías algorítmicas externas, por tanto, se sustentan en datos administrativos, entrevistas, informes o guiones de diseño para recopilar resultados a escala.
Eticas lanzó en julio de 2021 el ‘External Algorithmic Auditing project’, con el que en los próximos 18 meses realizará esta ingeniería inversa en sistemas del ámbito jurídico (violencia de género y reincidencia), del mundo laboral (plataformas de recursos humanos y reclutamiento), social media y del sector financiero (credit scoring). El equipo de expertos de Eticas ha desarrollado una metodología que validará junto a un comité internacional compuesto por ingenieros, abogados y profesionales de distintos ámbitos. Con esta metodología se busca entender cómo funcionan estos algoritmos, si tienen sesgos, discriminan, y cómo afectan a diferentes grupos de población.
En 2022 se espera poder recopilar todas estas auditorías en una Guía de Auditoría Externa de Algoritmos que, como la pionera Guía de Auditoría Algorítmica, recoja y explique de forma práctica por primera vez cómo realizar esta ingeniería inversa en distintos tipos de sistemas de IA. La guía ayudará a los afectados por decisiones algorítmicas a comprender cómo se han tomado las decisiones e identificar si pueden haber sido tratados injustamente por dichos sistemas.
VioGén analiza datos y mide riesgos para proteger a las mujeres de la violencia de género
El Sistema VioGén se puso en funcionamiento en el año 2007, con su implementación se quería responder a la violencia de género a través de algunas herramientas desarrolladas por parte de la Policía Nacional. Regulado en sus inicios por la Ley Orgánica 1/2004, de 28 de diciembre, “de Medidas de Protección Integral contra la Violencia de Género”, ha ido sufriendo modificaciones. En la actualidad, los niveles de riesgo que se analizan son cinco: “NO APRECIADO”, “BAJO”, “MEDIO”, “ALTO” Y “EXTREMO”, según lo recoge la Instrucción 4/2019, de la Secretaría de Estado de Seguridad, con entrada en vigor el 13 de marzo de 2019.
Cada nivel lleva asociadas una serie de Medidas de Protección y seguimiento, de aplicación obligatoria, que varían en intensidad según el nivel de riesgo del caso en cada momento. VioGén incluye también un mecanismo denominado 3A “Aviso, Alerta, Alarma”, que provee a los agentes y a las denunciantes de una permanente actualización del nivel de riesgo de la víctima, denominada “Estimación Permanente de Evolución del Riesgo” (EPER).
Sus objetivos principales son: recabar, de manera coordinada, la información de los casos denunciados y realizar una medición de riesgo, así como facilitar alertas a las fuerzas de seguridad para contribuir a la prevención de la violencia de género emitiendo avisos y alertas mediante su “Subsistema de Notificaciones Automatizadas”, en caso de identificarse riesgos para la víctima.
Bajo estas premisas, se diseñaron dos cuestionarios que miden el riesgo de reincidencia de violencia a la que puede estar sujeta la víctima: VPR (Valoración Policial del Riesgo) y VPER (Valoración Policial de Evolución del Riesgo) y se implementó en casi todo el territorio español. Actualmente, alrededor de 30.000 personas tienen acceso al sistema, la mayor parte de las cuales pertenecen a los Cuerpos y Fuerzas de Seguridad del Estado, pero también incluyen otros actores autorizados, como centros penitenciarios, organizaciones de atención a las víctimas y 392 Ayuntamientos. Cabe tener en cuenta que, desde la implementación de VioGén en 2007, se han registrado más de 500.000 casos de mujeres denunciantes, de los cuales en torno a un 10% se encuentran activos (Ministerio del Interior, 2020).
