El escándalo holandés sirve de advertencia para Europa sobre los riesgos del uso de algoritmos
Las autoridades sancionaban a las familias por una mera sospecha de fraude basada en los indicadores de riesgo del sistema. Decenas de miles de familias -a menudo con ingresos bajos o pertenecientes a minorías étnicas- se vieron abocadas a la pobreza por culpa de las exorbitantes deudas con la agencia tributaria. Algunas víctimas se suicidaron. Más de un millar de niños fueron acogidos en familias de acogida.
La Agencia Tributaria holandesa se enfrenta ahora a una nueva multa de 3,7 millones de euros impuesta por el regulador de la privacidad del país. En un comunicado publicado el 12 de abril, la agencia señala varias infracciones de la normativa de protección de datos de la UE, el Reglamento General de Protección de Datos, como no tener una base legal para procesar los datos de las personas y retener la información durante demasiado tiempo.
Aleid Wolfsen, director de la autoridad neerlandesa de protección de la intimidad, calificó las infracciones como algo sin precedentes.
"Durante más de 6 años, a menudo se etiquetó erróneamente a la gente como defraudadores, con consecuencias nefastas... algunos no recibieron un acuerdo de pago o no pudieron acogerse a la reestructuración de la deuda. Las autoridades fiscales han puesto la vida patas arriba", dijo, según el comunicado.
Mientras los gobiernos de todo el mundo recurren a los algoritmos y a la IA para automatizar sus sistemas, el escándalo holandés muestra lo absolutamente devastadores que pueden ser los sistemas automatizados sin las salvaguardias adecuadas. La Unión Europea, que se posiciona como el principal regulador tecnológico del mundo, está trabajando en un proyecto de ley que pretende frenar los daños causados por los algoritmos.
Pero los críticos dicen que el proyecto de ley no da en el clavo y no protegería a los ciudadanos de incidentes como el ocurrido en Holanda.
Sin controles y equilibrios
El sistema holandés -que se puso en marcha en 2013- pretendía eliminar el fraude en las prestaciones en una fase temprana. Los criterios para el perfil de riesgo fueron desarrollados por la autoridad fiscal, informa el periódico holandés Trouw. Tener doble nacionalidad se marcó como un gran indicador de riesgo, al igual que unos ingresos bajos.
No está claro por qué Leysner acabó en esta situación. Una de las razones podría ser que tuvo gemelos, lo que significó que necesitaba más apoyo del gobierno. Leysner, nacida en Holanda, también tiene raíces surinamesas.
En 2020, Trouw y otro medio de comunicación holandés, RTL Nieuws, revelaron que las autoridades fiscales también mantuvieron listas negras secretas de personas durante dos décadas, en las que se rastreaban "señales" tanto creíbles como infundadas de posible fraude. Los ciudadanos no tenían forma de saber por qué estaban en la lista ni de defenderse.
*** Translated with www.DeepL.com/Translator (free version) ***
Comentarios
Publicar un comentario