El ordenador dice no: cómo las leyes de la UE sobre IA provocan nuevas injusticias

https://euobserver.com/investigations/152695

Cuando Roger Derikx solicitó las prestaciones por cuidado de hijos, pensó que recibiría dinero, no que lo perdería.

Derikx, de 46 años, tuvo que devolver al gobierno holandés 68.000 euros. El problema: nunca le dijeron por qué tenía que devolver las prestaciones, a las que tenía derecho. Las autoridades le embargaron el coche y le recortaron el 40% de su sueldo durante años.

"Tienes dos hijos pequeños y quieres dárselo todo", dijo Derikx, "pero cada vez que te piden algo, tienes que decir 'no'; es duro".

Derikx fue uno de los 26.000 padres acusados de presentar solicitudes fraudulentas de prestaciones por la autoridad fiscal holandesa, que utilizó un algoritmo para detectar el fraude. El sistema era "ilegal y discriminatorio", según una investigación oficial, que acabó llevando al primer ministro holandés, Mark Rutte, a dimitir a principios de este año.

Para Derikx, la investigación llegó demasiado tarde. Las dificultades económicas afectaron tanto a su matrimonio que acabó divorciándose. "Es un precio muy alto", dijo Derikx.

La UE propone una normativa sobre IA

El escándalo de las prestaciones por hijos en Holanda no es único. Las denuncias de abusos han surgido en toda Europa.

Las autoridades danesas también utilizaron la inteligencia artificial para identificar a los niños de las "familias vulnerables" que se dirigían de forma desproporcionada a los padres de origen extranjero.

Y los Países Bajos, uno de los pioneros europeos en este campo, utilizaron algoritmos para crear perfiles de riesgo de niños menores de 12 años.

Los críticos llevan tiempo abogando contra estos usos de la IA. En enero, 61 organizaciones de defensa de los derechos enviaron una carta abierta a la UE en la que exigían "líneas rojas" para las aplicaciones de IA que amenazaran los derechos fundamentales.

Por su parte, los representantes de la industria argumentaron que regular la IA ahogaría la innovación.

Al tomar posesión de su cargo, la presidenta de la Comisión Europea, Ursula von der Leyen, hizo de la regulación de la inteligencia artificial una prioridad política, y la UE afirmó que buscaba un compromiso entre abordar los riesgos y proteger la innovación.

En abril de 2021, la Comisión de la UE anunció una propuesta largamente esperada para regular la inteligencia artificial.

Ascenso de las empresas

Los datos recopilados para esta investigación muestran que los funcionarios de la comisión registraron 152 reuniones oficiales de lobby sobre la IA durante el período de tiempo comprendido entre diciembre de 2019 y agosto de 2021.

Las corporaciones y las asociaciones empresariales representaron más de 100, o dos tercios, de esas reuniones; menos de un tercio fue con la sociedad civil, los académicos y los sindicatos.

La mayoría de las organizaciones sólo pudieron reunirse con la UE una vez. Google encabezó la lista con nueve reuniones, la primera de las cuales se produjo apenas tres días después de la toma de posesión de la Comisión.

*** Translated with www.DeepL.com/Translator (free version) ***