Juan Carlos Pereira Kohatsu, un científico de datos de 24 años, desarrolló un algoritmo que detecta los niveles de odio a través de Twitter. La Oficina Nacional de Lucha contra los Crímenes de Odio, una oficina del Ministerio del Interior, desarrolló conjuntamente la herramienta y espera desplegarla para “reaccionar contra los estallidos de odio locales” (Algorithm Watch, 2019). Según “El País” (Colomé, 2018), el algoritmo rastrea unos 6 millones de tweets en 24 horas, filtrando más de 500 palabras relacionadas con insultos, temas sensibles y grupos que frecuentemente sufren delitos de odio. El análisis de Pereira sugiere que el número de tweets de odio se mantiene relativamente estable diariamente en España, oscilando entre 3.000 y 4.000 tweets al día.
Las autoridades públicas todavía están averiguando los propósitos prácticos de la aplicación del instrumento. Y las cuestiones relativas al método de entrenamiento del algoritmo siguen sin resolverse. Hasta ahora, el algoritmo ha aprendido a clasificar los tweets entre los que son de odio y los que no lo son, según las aportaciones en forma de opiniones selectas de determinadas personas. Esto podría tener la consecuencia de hacer que el algoritmo perciba el odio según un grupo sociodemográfico específico, que puede no ser representativo de lo que legalmente se considera un discurso de odio o, al menos, lo que socialmente no es considerado como tal por la mayoría de las personas.
