Una empresa española llamada Bismart ha desarrollado un software que permite a las administraciones públicas predecir las necesidades de las personas mayores dependientes antes de que ocurra una emergencia. El sistema agrega datos relacionados con “servicios sociales, salud, población, actividad económica, uso de servicios públicos, gestión de residuos y más” para dar un análisis de evaluación de riesgos para los ancianos (Algorithm Watch, 2019). La compañía espera hacer una transición de la atención domiciliaria para ancianos de un “enfoque paliativo a uno proactivo”, así como asignar recursos de atención médica de la manera más eficiente posible.
Tanto el derecho a la privacidad como a la no discriminación podrían verse afectados por este software. Dada la cantidad de fuentes de datos que se procesan para hacer las predicciones, el sistema presenta un riesgo sustancial de reproducir los sesgos estructurales existentes en la sociedad.
