El algoritmo de búsqueda de Google ha causado graves daños a los grupos minoritarios. El motor de búsqueda ha sido declarado culpable de incluir una consulta de autocompletado “son los judíos malvados” y de etiquetar a los afroamericanos como “gorilas” dentro de la sección de imágenes. La búsqueda en Google también ha sido criticada por promover la islamofobia al sugerir consultas ofensivas y peligrosas a través de su función de autocompletar. Por ejemplo, si un usuario escribía “does Islam” en la barra de búsqueda de Google, la primera sugerencia de relleno automático del algoritmo era “does Islam allow terrorism” (Abdelaziz, 2017). Esto tiene efectos preocupantes en el mundo real, ya que las investigaciones han demostrado una clara correlación entre las búsquedas antimusulmanas y los crímenes de odio antimusulmanes (Soltas y Stephens-Davidowitz, 2015).
Google ha anunciado que eliminará continuamente el contenido odioso y ofensivo y ajustará su algoritmo para deshacerse permanentemente del problema, pero los expertos no son optimistas en cuanto a que sea totalmente posible. Con millones de páginas nuevas online cada día, Google se enfrenta a la tarea de Sísifo de moderación de contenidos. Heidi Beirich, directora de proyecto del Centro Legal de la Pobreza del Sur, argumenta que “el algoritmo de Google es seriamente defectuoso y es algo que asusta porque millones de personas en todo el mundo lo están usando. Es un problema fundamental de cómo funciona la búsqueda”. Dirige la atención a la historia del supremacista blanco Dylann Roof, que pasó “de ser alguien que no se crió en un hogar racista a alguien tan empapado de propaganda de supremacía blanca que asesinó a nueve afroamericanos durante un estudio de la Biblia” (Abdelaziz, 2017). Dylann Roof encontró dicha propaganda usando Google y haciendo clic en sitios web de la primera página de resultados de búsqueda. El Centro Legal de la Pobreza del Sur ha comunicado estos problemas a Google, pero sigue sin verse una acción significativa.
