El EDPB y el SEPD piden la prohibición del uso de inteligencia artificial para el reconocimiento automático de características humanas en espacios de acceso público y algunos otros usos de la inteligencia artificial que pueden conducir a una discriminación injusta

-

Noticia

https://edpb.europa.eu/news/news/2021/edpb-edps-call-ban-use-ai-automated-recognition-human-features-publicly-accessible_en

Postura

https://edps.europa.eu/system/files/2021-06/2021-06-18-edpb-edps_joint_opinion_ai_regulation_en.pdf

El EDPB y el SEPD han adoptado un dictamen conjunto sobre la propuesta de Reglamento de la Comisión Europea por la que se establecen normas armonizadas sobre inteligencia artificial (IA).


El EDPB y el SEPD acogen con gran satisfacción el objetivo de abordar el uso de sistemas de inteligencia artificial en la Unión Europea, incluido el uso de sistemas de inteligencia artificial por parte de instituciones, organismos o agencias de la UE. Al mismo tiempo, el EDPB y el SEPD están preocupados por la exclusión de la cooperación policial internacional del ámbito de la propuesta.


El EDPB y el SEPD también hacen hincapié en la necesidad de aclarar explícitamente que la legislación de protección de datos de la UE existente (RGPD, EUDPR y LED) se aplica a cualquier tratamiento de datos personales que esté incluido en el ámbito de aplicación del proyecto de Reglamento sobre IA.


Si bien el EDPB y el SEPD acogen favorablemente el enfoque basado en el riesgo que sustenta la propuesta, consideran que el concepto de “riesgo para los derechos fundamentales” debe alinearse con el marco de protección de datos de la UE. El EDPB y el SEPD recomiendan que también se evalúen y mitiguen los riesgos sociales para grupos de personas. Además, están de acuerdo con la propuesta de que la clasificación de un sistema de IA como de alto riesgo no significa necesariamente que sea legal per se y que el usuario pueda implementarlo como tal. El EDPB y el SEPD también consideran que el cumplimiento de las obligaciones legales derivadas de la legislación de la Unión, incluida la protección de datos personales, debe ser una condición previa para entrar en el mercado europeo como producto con la marca CE.


Teniendo en cuenta los riesgos extremadamente elevados que plantea la identificación biométrica remota de personas en espacios de acceso público, el EDPB y el SEPD piden una prohibición general de cualquier uso de la IA para el reconocimiento automático de rasgos humanos en espacios de acceso público, como el reconocimiento de rostros. , marcha, huellas dactilares, ADN, voz, pulsaciones de teclas y otras señales biométricas o de comportamiento, en cualquier contexto. Del mismo modo, el EDPB y el SEPD recomiendan la prohibición de los sistemas de inteligencia artificial que utilizan datos biométricos para clasificar a las personas en grupos según su origen étnico, género, orientación política o sexual, u otros motivos por los que la discriminación está prohibida en virtud del artículo 21 de la Carta de los Derechos Fundamentales. Además, el EDPB y el SEPD consideran que el uso de IA para inferir emociones de una persona física es altamente indeseable y debería prohibirse, excepto en casos muy específicos, como algunos fines de salud, donde el reconocimiento de las emociones del paciente es importante, y que Debería prohibirse el uso de IA para cualquier tipo de puntuación social.

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más