La IA no puede detectar tus emociones

https://onezero.medium.com/a-i-cant-detect-our-emotions-3c1f6fce2539

La IA de las emociones, la computación afectiva y la inteligencia emocional artificial son campos que crean tecnología para comprender, responder, medir y simular las emociones humanas. La esperanza es tan alta para estos esfuerzos que el valor de mercado proyectado para la inteligencia artificial emocional. es de $ 91.67 mil millones para 2024. Algunos ejemplos son reveladores: la industria automotriz ve valor en los algoritmos que determinan cuándo los conductores están distraídos y somnolientos. Las empresas ven el valor de los algoritmos que analizan cómo hablan los agentes de atención al cliente y los capacitan computacionalmente para ser mejores oradores. Y los investigadores ven el valor de que los niños con autismo usen anteojos infundidos con IA para interpretar las reacciones faciales transmitidas por las personas que los rodean.

Sin embargo, no todo el mundo sonríe acerca de la inteligencia artificial sensible a las emociones. De hecho, las críticas fuertes son omnipresentes y las controversias de alto perfil acaparan los titulares. Por ejemplo, ha habido un rechazo considerable contra las empresas que utilizan de manera injusta software de análisis y detección de emociones durante las entrevistas para determinar el "puntaje de empleabilidad" de un candidato. El instituto de investigación AI Now incluso pidió la prohibición de las tecnologías de reconocimiento de emociones "en decisiones importantes que afectan la vida de las personas".

Estoy emocionado de hablar sobre las promesas y las trampas de la inteligencia artificial sensible a las emociones. con Luke Stark, profesor asistente en la facultad de estudios de información y medios de la Universidad de Western Ontario. Durante muchos años, Luke ha estado estudiando este tema, provocó una discusión generalizada al comparar la tecnología de reconocimiento facial con el plutonio, y tiene un nuevo libro emocionante que se publicará con MIT Press, Ordering Emotion: Histories of Computing and Human Feelings From Cybernetics to AI. Además de ser un erudito de renombre que estudia cuestiones éticas, Luke prioriza la acción ética. Recientemente, rechazó un prestigioso y lucrativo premio académico de investigación de Google como un gesto de solidaridad con los ex empleados de Google Timnit Gebru y Margret Mitchell.

Nuestra conversación ha sido editada y condensada para mayor claridad.

Evan: Ha comenzado la carrera para infundir todo tipo de tecnologías con inteligencia artificial sensible a las emociones. Quiero su opinión sobre por qué está sucediendo ahora y qué personas están tratando de lograr. Pero conociendo su trabajo, sería un error sumergirse directamente en él. Es escéptico sobre el uso de software para inferir nuestras emociones e ideas centrales que impulsan esta ambición, como las afirmaciones tan repetidas de que hay siete emociones universales.

Luke: Es un placer hablar contigo sobre este tema, Evan. Es fundamental tener en cuenta que las empresas involucradas con la inteligencia artificial emocional solo recopilan datos indirectos, datos que describen parcialmente nuestros complicados estados y respuestas emocionales. ¡Probablemente no tenga que recordarle a nadie que lea nuestra conversación esa verdad básica! Las emociones están compuestas simultáneamente de componentes fenomenológicos fisiológicos, mentales, psicológicos, culturales e individualmente subjetivos. Ningún elemento medible de una respuesta emocional te contará la historia completa. El filósofo Jesse Prinz llama a esto "el problema de las partes".

En gran medida, entonces, nuestras respuestas emocionales son inherentemente interpersonales. Por definición, ningún tercero, ya sea una plataforma de redes sociales o un software de tecnología educativa, puede saber con certeza cómo se siente cuando expresa una emoción. Los seres humanos han desarrollado todo tipo de convenciones sociales culturalmente específicas para hacer que la expresión emocional interpersonal sea más predecible. Pero varios milenios de arte y literatura dejan en claro que no podemos, como dicen, saber qué hay en el corazón de otra persona. Algunos encuentran ese hecho activamente reconfortante. Otros, evidentemente, lo encuentran frustrante.