La startup finlandesa Utopia Analytics entrena inteligencia artificial para moderar contenido en plataformas de redes sociales, foros de discusión y páginas de comercio electrónico (Algorithm Watch, 2019). La empresa espera “devolver la democracia a las redes sociales” alentando el diálogo comunitario seguro (ibid). Utopia Analytics vende una IA (específicamente, una red neuronal) que primero es entrenada por los humanos a partir de un corpus de contenido de muestra y luego se deja que se modere por sí sola. Los moderadores humanos conservan la capacidad de tomar decisiones en escenarios complicados y controvertidos.
A pesar de que el servicio se ha puesto en marcha en varios sitios como la plataforma suiza de ventas entre pares tutti.ch y el foro público finlandés Suomi24, Mark Zuckerberg ha denunciado la tecnología de Utopia Analytic como primitiva e inexacta. Afirma que la moderación automatizada está por lo menos a 5-10 años de distancia debido a los importantes progresos que hay que hacer antes de que la inteligencia mecánica pueda comprender las sutilezas y el contexto situacional inherentes a la genialidad del lenguaje humano (ibíd.).
