¿Un marco de confianza que respete los derechos fundamentales? El proyecto de ley de IA de la UE y el uso policial de la biometría
Como se indica en su Libro Blanco de 2020, la propuesta de Reglamento sobre la IA de la Comisión Europea, también denominada "Ley de la IA", forma parte de un conjunto más amplio de medidas reguladoras destinadas a permitir "un desarrollo fiable y seguro de la IA en Europa", en plena consonancia con los derechos de los ciudadanos de la UE. Es de agradecer que el legislador de la UE dé estos primeros pasos hacia este oportuno objetivo, dado el papel cada vez más importante que desempeñan los sistemas de IA en todos los aspectos de la vida cotidiana, además de permitir avances médicos y proteger la seguridad pública en una pandemia mundial.
El proyecto de Ley de IA también coincide con un consenso internacional que está surgiendo claramente entre los investigadores, los responsables políticos, los tribunales, los reguladores y la industria de que estos potentes sistemas algorítmicos también plantean graves riesgos para varios derechos protegidos por la Carta de Derechos Fundamentales de la UE. Esto incluye, pero no se limita a, el creciente uso del reconocimiento facial en tiempo real, y la biometría en general, en toda Europa, que interfiere con los derechos a la vida privada, la libertad de expresión y la igualdad, protegidos por la Carta de la UE. El siguiente análisis aborda específicamente si las actuales disposiciones de la Ley de IA destinadas a regular los futuros usos de los sistemas de identidad biométrica por parte de las fuerzas de seguridad pueden considerarse fiables y plenamente respetuosas con los derechos fundamentales de la UE.
Principales disposiciones
Sistemas de IA de alto riesgo: Sistemas de identificación biométrica a distancia "en tiempo real" y "a posteriori
El artículo 3, apartado 33, define los "datos biométricos" en plena consonancia con las mismas disposiciones del RGPD de la UE y de la Directiva de aplicación de la ley de la UE. Obsérvese que el ámbito de aplicación no es exhaustivo y va más allá de la identificación de imágenes faciales y dactilares, abarcando así el análisis de la voz, el análisis de la marcha, el análisis del iris y otros datos biométricos nuevos y emergentes:
los datos personales resultantes de un tratamiento técnico específico relativo a las características físicas, fisiológicas o de comportamiento de una persona física, que permitan o confirmen la identificación única de dicha persona física, como las imágenes faciales o los datos dactiloscópicos.
El artículo 3 (36) define un "sistema de identificación biométrica a distancia" como un
Sistema de IA con el fin de identificar a distancia a personas físicas mediante la comparación de los datos biométricos de una persona con los datos biométricos contenidos en una base de datos de referencia, y sin que el usuario del sistema de IA sepa previamente si la persona estará presente y podrá ser identificada.
La propuesta de Reglamento aborda dos categorías de sistemas de identificación biométrica a distancia que pueden utilizarse para la identificación de personas: "en tiempo real" y "a posteriori".
El artículo 3(37) define la categoría de estos sistemas "en tiempo real" como
sistema de identificación biométrica a distancia en el que la captación de los datos biométricos, la comparación y la identificación se producen sin un retraso significativo. Esto comprende no sólo la identificación instantánea, sino también breves retrasos limitados para evitar la elusión.
Desde el punto de vista de la seguridad jurídica, la clave para comprender plenamente el alcance y la aplicación de esta definición en la práctica es establecer qué constituye exactamente un "retraso significativo". Esto es especialmente importante dada la brevedad con la que el artículo 3 (38) define la categoría distinta de los sistemas de identificación biométrica a distancia "posteriores": "un sistema de identificación biométrica a distancia que no sea un sistema de identificación biométrica a distancia "en tiempo real"". Los considerandos no vinculantes de la Ley de IA tampoco ofrecen muchas más explicaciones sobre lo que distingue exactamente el alcance de estas categorías clave de sistemas "en tiempo real" y "posteriores". En su lugar, el considerando 8 se limita a afirmar que los sistemas "posteriores" se refieren a los datos biométricos que "ya han sido capturados y la comparación e identificación se producen sólo después de un retraso significativo".
*** Translated with www.DeepL.com/Translator (free version) ***
Comentarios
Publicar un comentario