La inconsciencia de la vigilancia facial

-

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3557508

Los gobiernos y las empresas suelen utilizar el consentimiento para justificar el uso de tecnologías de reconocimiento facial para la vigilancia. Muchas propuestas para regular la tecnología de reconocimiento facial incorporan normas de consentimiento como forma de proteger los rostros que se etiquetan y rastrean. Sin embargo, el consentimiento es un mecanismo de regulación de la vigilancia facial que no funciona. Los riesgos individuales de la vigilancia facial son imposiblemente opacos, y nuestros intereses colectivos de autonomía y oscuridad no son captados ni atendidos por las decisiones individuales.


En este artículo, argumentamos que las tecnologías de reconocimiento facial tienen un problema de consentimiento masivo y probablemente fatal. Reconstruimos algunas de las afirmaciones fundamentales de Nancy Kim en Consentability: El consentimiento y sus límites, haciendo hincapié en cómo su marco de consentibilidad concede una prioridad fundamental a la autonomía individual y social, integra conocimientos empíricos sobre las limitaciones cognitivas que repercuten significativamente en la calidad de la toma de decisiones humanas a la hora de otorgar el consentimiento, e identifica los impedimentos sociales, psicológicos y legales que permiten que el ritmo y las consecuencias negativas de la innovación superen las protecciones de la regulación legal.


También ampliamos el análisis de Kim argumentando que no se puede dar un consentimiento válido para la vigilancia facial. Incluso si el consentimiento individual válido para la vigilancia facial fuera posible, el permiso para dicha vigilancia entra en conflicto irresoluble con nuestros intereses colectivos de autonomía y oscuridad. Además, hay buenas razones para ser escépticos con respecto al consentimiento como justificación de cualquier uso de la tecnología de reconocimiento facial, incluida la caracterización, verificación e identificación facial.


Traducción realizada con la versión gratuita del traductor www.DeepL.com/Translator

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más