Google y Facebook facilitando el antisemitismo

Los algoritmos de Google y Facebook han sido declarados culpables de ofrecer palabras clave que los anunciantes podrían utilizar para dirigirse a personas que realizan búsquedas antisemitas y racistas (Schindler, 2017) En el caso de Facebook, se reveló que los anunciantes podían dirigirse a los usuarios de Facebook teniendo en cuenta sus opiniones contra los judíos. Según Pro Publica, los anuncios de Facebook incluían organizaciones o contenidos relacionados con las SS, el Partido Nazi y el Partido Nacional Democrático de extrema derecha de Alemania. La empresa ha implementado una política para eliminar los anuncios relacionados con la incitación al odio (Schindler, 2017).

En el caso de Google, el algoritmo del motor de búsqueda aprendió un conjunto de asociaciones entre los judíos y los rasgos discriminatorios. Estas asociaciones fueron usadas más tarde por Google AdWords para procesar y publicar anuncios antisemitas. La compañía deshabilitó un número importante de palabras clave discriminatorias y modificó la política publicitaria después de que se revelara esta cuestión. Google ha eliminado más de 1.500 millones de anuncios debido a la violación de sus políticas, que incluyen una lista negra de palabras que requieren la aprobación humana (Schindler, 2017).

Estos hechos fueron reconocidos por ambas compañías en 2017. No obstante, el problema persistió después de que se adoptaran las medidas mencionadas.