El Departamento de Trabajo urge a revelar el algoritmo que "apunta" a los discapacitados para el fraude en las prestaciones
Los discapacitados están siendo sometidos a estresantes controles y a meses de frustrante burocracia tras ser identificados como potenciales defraudadores de prestaciones por un algoritmo que el gobierno se niega a revelar, según un nuevo recurso legal.
Un grupo de Manchester ha puesto en marcha la acción después de que los discapacitados de la zona hayan manifestado que están siendo objeto de investigaciones sobre el fraude en las prestaciones de forma desproporcionada. Algunos dijeron que vivían con "miedo al sobre marrón" que mostraba que su caso estaba siendo investigado. Otros dijeron que habían recibido una llamada telefónica, sin explicación de por qué habían sido señalados.
El Departamento de Trabajo y Pensiones (DWP) ha admitido anteriormente que utiliza "inteligencia artificial de vanguardia" para rastrear posibles fraudes, pero hasta ahora ha rechazado los intentos de explicar cómo se compone el algoritmo que hay detrás del sistema. Los activistas afirman que, una vez señalados, los examinados pueden enfrentarse a una investigación invasiva y humillante que puede durar hasta un año.
Se ha enviado una carta legal al DWP exigiendo detalles sobre el proceso automatizado que desencadena las investigaciones. La Coalición de Personas Discapacitadas del Gran Manchester (GMCDP), que envió la carta con la ayuda del grupo de campaña Foxglove, dijo que un "enorme porcentaje" del grupo se ha visto afectado por el sistema. El grupo cree que el gobierno tiene la obligación legal de ser transparente sobre el funcionamiento del algoritmo.
La organización benéfica Privacy International planteó su preocupación al encontrar por primera vez referencias en un informe del DWP a su uso de "inteligencia artificial de vanguardia para reprimir a las bandas criminales organizadas que cometen fraudes de prestaciones a gran escala". Un informe de la ONU de 2019 sobre el "estado de bienestar digital" dijo que era "muy probable" que los algoritmos repitieran los sesgos reflejados en los datos existentes y los empeoraran. Y añadía: "Las formas de discriminación incorporadas pueden socavar fatalmente el derecho a la protección social de grupos e individuos clave."
El gobierno tiene hasta el viernes para responder a la carta legal.
"Estamos cansados del miedo al sobre marrón y de que los funcionarios del DWP nos obliguen repetidamente a justificar quiénes somos", dijo Rick Burgess, del GMCDP. "Es hora de que el DWP aclare cómo funciona este algoritmo y explique por qué tantas personas discapacitadas son señaladas para ser investigadas. Las personas discapacitadas necesitan apoyo, no que se las machaque con un sistema brutal que da por sentado que somos fraudulentos hasta que se demuestre nuestra inocencia."
*** Translated with www.DeepL.com/Translator (free version) ***
Comentarios
Publicar un comentario