Auditorías de IA dirigidas por la comunidad

Empoderando a las comunidades, garantizando la rendición de cuentas

En un mundo cada vez más moldeado por la inteligencia artificial, la necesidad de prácticas de IA responsables e inclusivas nunca ha sido mayor.

Los sistemas de IA irresponsables pueden marginar a comunidades enteras, negar oportunidades y socavar la confianza pública en la innovación. La Fundación Eticas está a la vanguardia en la lucha contra estos desafíos mediante auditorías de IA lideradas por la comunidad – un enfoque transformador para garantizar la transparencia y la rendición de cuentas en las tecnologías de IA.

Lista de CLA ya publicadas:

En un momento histórico marcado por el auge del Big Data, la inteligencia artificial y las plataformas digitales, es fundamental contar con herramientas que garanticen la transparencia y el control sobre estas tecnologías, a menudo concentradas en grandes empresas, para evitar que vulneren los derechos laborales y sociales. A través de Eticas y Taxi Project, he tenido la oportunidad de colaborar en una auditoría algorítmica adversarial pionera de sistemas de precios dinámicos en plataformas como Uber. Este ejercicio nos ha permitido evidenciar cómo estos algoritmos coordinaban automáticamente las estrategias de precios, poniendo en riesgo la competencia en el mercado. Hoy en día, el trabajo de las auditorías comunitarias es más relevante que nunca, y Eticas emerge como un actor clave en la protección de los derechos humanos, laborales y de los consumidores en esta nueva era del capitalismo digital.

Gracias a nuestra colaboración con Eticas, la Fundación Ana Bella ha podido visibilizar las experiencias de mujeres sobrevivientes de violencia de género, analizar sistemáticamente el funcionamiento del sistema Viogen y proponer mejoras. Gracias a esta colaboración, hemos contribuido a la modernización del sistema de protección de víctimas, lo que ha dado lugar a Viogen2. La auditoría de Eticas en este caso ha sido fundamental para salvar las vidas de mujeres expuestas a la violencia de género. Nos ha impresionado profundamente no solo la profesionalidad y la experiencia de Eticas, sino también su compromiso social con nuestro proyecto conjunto. La Fundación Ana Bella agradece su apoyo y espera con interés volver a colaborar.

¿Qué es una auditoría de IA dirigida por la comunidad?

Una auditoría de IA liderada por la comunidad es una evaluación sistemática de los sistemas de IA que integra las voces y experiencias de los más afectados. A diferencia de las auditorías tradicionales, que pueden realizarse de forma aislada, nuestro enfoque prioriza la participación comunitaria. Evaluamos sistemas de IA completos, incluyendo múltiples algoritmos, en sus contextos específicos, garantizando que nuestras auditorías reflejen las implicaciones del mundo real.

La importancia de las auditorías de IA lideradas por la comunidad

Ante la evolución de las regulaciones globales sobre IA, que exigen mayor transparencia y rendición de cuentas, nuestras auditorías comunitarias son un paso fundamental. Al involucrar a las personas afectadas por las tecnologías de IA, fomentamos conversaciones más profundas sobre sus impactos y promovemos un enfoque de mitigación de riesgos para el desarrollo de la IA.

GitHub

En la Fundación Eticas, creemos que la transparencia es clave para fomentar la rendición de cuentas y la confianza en el desarrollo y uso de sistemas de IA. Por eso, todos los datos de nuestras Auditorías de IA Comunitarias y Auditorías de Interés Público se publican y son de libre acceso a través de nuestro GitHub.

La publicación de nuestros datos permite que otros aprovechen nuestro trabajo, fomenta la colaboración y ayuda a impulsar una innovación responsable que se centra en los derechos humanos y el interés público. Consideramos el acceso abierto a estos datos como un paso vital en la creación de mecanismos de supervisión para los sistemas de IA que impactan la vida cotidiana.

No confíe solo en nuestras palabras

Esto es lo que nuestros clientes dicen sobre su experiencia con Fundación Eticas:

Gracias a nuestra colaboración con Eticas, la Fundación Ana Bella ha podido visibilizar las experiencias de mujeres sobrevivientes de violencia de género, analizar sistemáticamente el funcionamiento del sistema Viogen y proponer mejoras. Gracias a esta colaboración, hemos contribuido a la actualización del sistema de protección de víctimas, lo que ha dado lugar a Viogen2. La auditoría de Eticas en este caso ha sido fundamental para salvar las vidas de mujeres expuestas a la violencia de género. Nos ha impresionado profundamente no solo la profesionalidad y la experiencia de Eticas, sino también su compromiso social con nuestro proyecto conjunto. La Fundación Ana Bella agradece su apoyo y espera con interés volver a colaborar.

Fundación Ana Bella |

Ana Bella Estévez Jiménez de los Galanes, Emprendedora Social Ashoka y creadora de la Red Ana Bella de Mujeres Supervivientes

En un momento histórico marcado por el auge del Big Data, la inteligencia artificial y las plataformas digitales, es fundamental contar con herramientas que garanticen la transparencia y el control de estas tecnologías, a menudo concentradas en grandes empresas, para evitar que vulneren los derechos laborales y sociales. A través de Eticas y Taxi Project, he tenido la oportunidad de colaborar en una auditoría algorítmica adversarial pionera de sistemas de precios dinámicos en plataformas como Uber. Este ejercicio nos ha permitido destacar cómo estos algoritmos coordinaban automáticamente las estrategias de precios, poniendo en riesgo la competencia en el mercado. Hoy en día, el trabajo de las auditorías comunitarias es más relevante que nunca, y Eticas emerge como un actor clave en la protección de los derechos humanos, laborales y de los consumidores en esta nueva era del capitalismo digital.

Sergi Cutillas y Tito Álvarez

Proyecto CLA de taxis

Nuestra Metodología: Rigurosa y Adaptativa

Nuestras auditorías emplean un marco sociotécnico, que reconoce la compleja interacción entre los procesos algorítmicos y la dinámica social. Las características clave de nuestro enfoque incluyen:

Análisis Contextual Cualitativo

Nos involucramos con las partes interesadas para comprender el entorno operativo de los algoritmos, garantizando que nuestras auditorías se basen en experiencias vividas.

Sesgo e ineficiencia Evaluación

A través de un análisis de datos exhaustivo, identificamos sesgos e ineficiencias y destacamos áreas de mejora dentro de los sistemas de IA.

Participación comunitaria

Al aplicar ingeniería inversa a los procesos del sistema con aportes de las partes afectadas, creamos una evaluación holística de los impactos algorítmicos, garantizando la transparencia donde más importa.

Amplificando voces para un cambio duradero

Interactuar con las comunidades afectadas por las tecnologías de IA es crucial para nuestra misión. Al escuchar atentamente sus experiencias, obtenemos información valiosa que fundamenta nuestras auditorías y aborda los desafíos del mundo real. Este compromiso con la empatía y la integridad nos permite promover la imparcialidad, la equidad y la rendición de cuentas en la toma de decisiones algorítmica.

En la Fundación Eticas, nuestra dedicación a realizar auditorías rigurosas y lideradas por la comunidad es inquebrantable. Sin embargo, no podemos lograrlo solos. Invitamos a las organizaciones comprometidas con la justicia social, los derechos humanos y la tecnología responsable a unirse a nosotros en esta labor crucial.

No podemos lograr esto solos.

Colabora con Nosotros

Ya sea que represente a una organización de la sociedad civil, una institución de investigación, un grupo de defensa o una comunidad afectada por la IA, sus conocimientos y experiencia son vitales. Si tienes conocimientos o datos relacionados con un sistema de IA y te apasiona marcar la diferencia, queremos saber de ti.

Juntos, podemos analizar los sistemas de IA, identificar áreas de mejora y promover cambios significativos. Trabajemos en colaboración para garantizar que las tecnologías de IA contribuyan al bien común y defiendan los valores de equidad, justicia y transparencia.

Donate Now*

Your support helps us fight AI bias, empower communities, and hold systems accountable. Together, we can build a fair and transparent future for all.

*Eticas is a 501(c)(3) nonprofit organization. Your donation is tax-deductible to the fullest extent allowed by law algo.

Stay Informed, Stay Ahead

Sign up for our newsletter to receive updates on AI accountability, our latest projects, and how you can make an impact. Your details will be securely stored, and we’ll reach out as soon as we’re ready to share exclusive insights.