'Falta en el escritorio': la cámara web con IA genera preocupaciones sobre la vigilancia remota

-

https://www.theguardian.com/business/2021/mar/26/missing-from-desk-ai-webcam-raises-remote-surveillance-concerns

Para cualquiera que esté preocupado de que una era de trabajo desde casa también podría convertirse en una era de vigilancia remota, el video de capacitación para el sistema de seguridad de cámara web interno de Teleperformance, llamado TP Observer, es una pesadilla.


Explicado por "Anna", un avatar sentado en un escritorio completo con una voz artificial, el video presenta TP Observer como "una herramienta de mitigación de riesgos que monitorea y rastrea el comportamiento de los empleados en tiempo real y detecta cualquier violación a las reglas comerciales preestablecidas".


Anna explica que esto significa que los trabajadores domésticos tendrán una cámara web habilitada con IA agregada a sus computadoras que reconoce su rostro, etiqueta su ubicación y busca "infracciones" de las reglas en puntos aleatorios durante un turno.


Estos incluyen una "persona desconocida" detectada en el escritorio a través del software de reconocimiento facial, "desaparecido del escritorio", "detección de un usuario inactivo" y "uso no autorizado de un teléfono móvil".



El personal del centro de llamadas será monitoreado a través de una cámara web para detectar "infracciones" relacionadas con el trabajo en el hogar

Leer más

Anna dice: "Cualquier infracción detectada por la IA activa una alerta en tiempo real al supervisor para que tome medidas adicionales". Esto significa que se toma una foto fija y se envía a un administrador.


El video incluye una serie de preguntas hechas por personal avatar, incluida una que pregunta si el sistema es “una violación de mi privacidad en casa”. El gerente le dice que el escaneo es necesario para “ayudarnos con la mitigación de riesgos y la seguridad de los datos, lo cual es requerido por la mayoría de nuestros clientes”.


Otro empleado digital pregunta si se meterán en problemas si los niños u otros miembros de la familia se acercan a su lugar de trabajo en casa. No “siempre y cuando las personas en el fondo no estén mirando directamente a la pantalla o muy cerca de ella”. Anna responde. El personal debe sentarse con una pared detrás de ellos "para evitar tales infracciones", dice. Se deben usar luces fuertes para los turnos de noche, para que la cámara pueda ver correctamente.


Teleperformance dijo que el sistema no se usaría para el personal del Reino Unido, pero se espera que se use en más de 30 países donde opera la multinacional con sede en Francia y donde las leyes laborales son menos estrictas.

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más