La discriminación racial y sexual de la Escuela de Medicina del Hospital St. George’s

Uno de los primeros casos de sesgo algorítmico tuvo lugar en la década de 1970 en la Escuela de Medicina del Hospital St. George en el Reino Unido. El hospital empleó un programa informático para hacer las pruebas iniciales de los aspirantes a la facultad de medicina. El programa había sido entrenado a partir de una muestra de datos de exámenes anteriores de admisión del personal. Debido a haber aprendido de este conjunto de datos, el programa denegó entrevistas a hasta 60 solicitantes porque eran mujeres o tenían nombres que no sonaban europeos. En 1988, la Comisión de Igualdad Racial del Reino Unido acusó a la Escuela de Medicina de St. George por practicar la discriminación racial y sexual durante todo el proceso de admisión (García, 2017). Aunque la Facultad de Medicina no tenía intención de cometer discriminación racial y sexual, su nuevo programa informático había aprendido de un proceso de admisión sesgado y trató de duplicarlo. (Garcia, 2017).