Gracias a la inteligencia artificial, los algoritmos pueden ser entrenados y aprender de los datos, pero lo que llegue a hacer un algoritmo depende mucho de la calidad de los datos utilizados. Estos datos pueden estar corruptos, desactualizados, ser inútiles o, incluso, ilegales. De esta manera, el hecho de que sean incorrectos juega un papel importante en todo tipo de procesos y en el resultado de la toma de decisiones.
En 2018, Eticas llevó a cabo el #BadDataChallenge. Nació para recopilar las historias de aquellas personas que habían sufrido las consecuencias sociales, éticas o económicas derivadas de la mala recolección, procesamiento o almacenamiento de sus datos personales. El objetivo era darle visibilidad a un problema extendido y cuestionar la idea preestablecida sobre la superioridad de los sistemas de datos sobre las decisiones humanas.
Aquel año recibimos historias preocupantes que confirmaban que el problema planteado era real. Una persona había llegado a pagar por el seguro médico de otra persona, mientras que otra tenía el nombre de sus padres erróneo en el DNI, lo que le complicaba ser identificada constantemente. Aún así, no recibimos tantas historias como esperábamos. Tal vez el momento no era el adecuado. Las redes sociales ya estaban completamente instaladas en nuestra vida diaria, pero las campañas de movilización social en ellas aún estaban en proceso de llegar a ser una herramienta para la defensa de nuestros derechos. Además, intentamos hacerlo por nuestra cuenta, pidiendo a nuestra comunidad con compartiera sus historias con el fin de mostrar el impacto social del BadData.
Tras esta campaña de 2018, sabíamos que el potencial de mostrar el efecto del BadData en nuestra vida estaba ahí. También sabíamos que el problema estaba lejos de resolverse. Ya que nuestra misión es proteger a las personas de los procesos tecnológicos y de la “datificación”, no nos rendimos. Decidimos relanzar la campaña aplicando las lecciones aprendidas.
El 1 de abril de 2022 relanzamos la campaña BadData. ¿Qué hicimos diferente esta vez?
– Usamos el poder de las redes sociales y de la interacción con el público. Nos centramos en explicar cuáles son los diferentes tipos de BadData que existen y dimos ejemplos prácticos con los que la gente podía sentirse identificada. Además, le dimos una presentación muy visual y creamos formas sencillas de compartir las historias.
– Pedimos a nuestras amistades que nos apoyasen: crear alianzas y colaborar para trabajar en equipo es crucial para el éxito. Antes de empezar la campaña, le pedimos a organizaciones una forma de pensar similar a la nuestra que se unieran y compartieran la información de la campaña con su comunidad. Logramos que Maldita.es, una fundación sin ánimo de lucro especializada en la verificación de noticias y la lucha contra la desinformación, nos apoyase. Su ayuda ha sido clave. En las 3 primeras semanas de la campaña recibimos 45 historias a través de sus plataformas.
Aún queda dos semanas por delante hasta que la campaña BadData finalice el 1 de julio. Hemos alcanzado 100 historias y el resultado es sobrecogedor.
Hay testimonios de personas que experimentan el BadData en el sector bancario: “El director de mi empresa y yo teniamos la cuenta en la misma sucursal. No sé cómo fue posible, pero un año el banco cargó en mi cuenta el impuesto de bien inmuebles de mi jefe”.
Numerosas historias sobre cómo el sector de las telecomunicaciones hace que la gente pierda el tiempo: “Me llegó un cobro de dos iPhones 12 que yo jamás compré. El cobro lo hizo Vodafone sin previo aviso ya que el sistema vinculó mi cuenta a otro cliente que sí hizo dicha compra. Acabamos en juicio donde se demostró el error”.
Y más historias incluso sobre la administración pública: “En el registro civil casaron a mi marido con mi madre en vez de casarlo conmigo. Estuvieron varios meses casados, nos enteramos al ir a un notario a hacer una escritura de separación de bienes porque yo estaba montando una empresa”.
También hay historias alarmantes sobre sanidad y sobre cómo el BadData puede afectar a la salud y el bienestar de una persona: “(Lua) Cuando me inscribí en la seguridad social de pequeña, alguien en algún momento decidió cambiarme el nombre a Luz. Esto me ha provocado varias confusiones a la hora de recoger resultados, recetas y retrasos en citas. Hace varios años conseguí enmendar el error, o eso creía hasta este verano que tuve que ir de urgencias a mí pueblo en Galicia. Estuvieron 3 horas intentando cogerme porque en el sistema estatal sigo apareciendo como Luz. En otras ocasiones, al ir a recoger un resultado de una citología que me había hecho el ginecólogo se tiraron media hora buscando mi resultado sin suerte. Por fin, alguien en algún momento, revisando los apellidos me dijo que tenía un Luis con los mismos apellidos que los míos, y efectivamente, las fechas cuadraban y no tenían a ningún Luis que hubiera ido al ginecólogo ese día”.
Y muchas más historias sobre ecommerce, viajes, educación, seguros, trabajo, etc. Si estás empezando a pensar que el BadData está puede estar en cualquier parte, estás en lo cierto. Está por todos lados.
Estamos felices por estar recibiendo tantas historias y porque la campaña haya funcionado tan bien. Queremos agradecer a Maldita.org EncodeJustice y Noledescasito por todo el apoyo. Pero, más allá de esto, nos alarma ver cuánto BadData existe y nos negamos a aceptar que esto continúe así. Este proyecto no solo espera concienciar, también se está llevando a cabo en un momento en el que el desarrollo de la regulación de la IA en Europa está teniendo lugar y, con ello, esperamos que exista un impacto que se traduzca en un cambio en las políticas y prácticas tecnológicas.
Súmate a nuestros esfuerzos. Todavía puedes compartir tu historia BadData y hacer llegar esta campaña a tus contactos.
