La ciencia de mala calidad detrás de la tecnología de reconocimiento emocional

-

https://onezero.medium.com/the-shoddy-science-behind-emotional-recognition-tech-2e847fc526a0

El reconocimiento facial no es solo para verificar la identidad de una persona. En los últimos años, los investigadores y las nuevas empresas se han centrado en otras formas de aplicar la tecnología, como el reconocimiento de emociones, que intenta leer las expresiones faciales para comprender lo que siente una persona.

Por ejemplo, Find Solution AI, una empresa con sede en Hong Kong que apareció recientemente en CNN Business, vende su tecnología a escuelas y universidades, donde escanea las caras de los estudiantes y monitorea sus sentimientos en aulas virtuales. Teóricamente, sistemas como estos podrían detectar si los niños están prestando atención o expresando frustración que indica dificultad para aprender el material de la clase.

Académicos y A.I. Los investigadores de ética, sin embargo, se apresuran a señalar que esta tecnología se basa en una ciencia cuestionable y que existen serias preocupaciones éticas en torno a quién se utiliza para vigilar.

Kate Crawford, cofundadora del AI Now Institute e investigadora principal senior de Microsoft Research, rechazó las afirmaciones de Find Solution AI de que su tecnología podría decir lo que sienten los niños.


Find Solution AI, y la mayoría de las otras startups de reconocimiento de emociones, basan su tecnología en el trabajo de Paul Ekman, un psicólogo que publicó un trabajo popular sobre las similitudes entre las expresiones faciales en todo el mundo y popularizó la idea de las "siete emociones universales". El actor Tim Roth incluso interpretó una versión dramatizada de Ekman en el drama de Fox Lie to Me.

Esa investigación no se ha traducido bien en el mundo real. Un programa de la TSA que capacitó a agentes para detectar terroristas utilizando el trabajo de Ekman encontró poca base científica, no resultó en arrestos y alimentó la discriminación racial, según informes de la Oficina de Responsabilidad del Gobierno y la ACLU.

Una meta-revisión de 1,000 estudios encontró que la ciencia que relaciona nuestras expresiones faciales con nuestras emociones no es del todo universal. Las personas hacen la expresión facial esperada para coincidir con su estado emocional solo del 20% al 30% del tiempo, dijeron los investigadores.

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más