El gran malentendido en el centro del reconocimiento facial

https://www.fastcompany.com/90666477/facial-recognition-misunderstanding

En los últimos cinco años, el reconocimiento facial se ha convertido en un campo de batalla para el futuro de la inteligencia artificial (IA). Esta controvertida tecnología encierra los temores del público sobre la vigilancia ineludible, el sesgo algorítmico y la IA distópica. Ciudades de todo Estados Unidos han prohibido el uso del reconocimiento facial por parte de las agencias gubernamentales y destacadas empresas han anunciado moratorias en el desarrollo de esta tecnología.

PUBLICIDAD

Pero, ¿qué significa ser reconocido? Numerosos autores han esbozado las implicaciones sociales, políticas y éticas de la tecnología de reconocimiento facial. Estas importantes críticas ponen de relieve las consecuencias de las identificaciones falsas, que ya han dado lugar a detenciones injustas de hombres negros, así como los efectos del reconocimiento facial sobre la privacidad, las libertades civiles y la libertad de reunión. En este ensayo, sin embargo, examino cómo la tecnología del reconocimiento facial está entrelazada con otros tipos de reconocimiento social y político, y destaco cómo los esfuerzos de los tecnólogos por "diversificar" y "desprejuiciar" el reconocimiento facial pueden en realidad exacerbar los efectos discriminatorios que pretenden resolver. En el campo de la visión por ordenador, el problema del reconocimiento facial sesgado se ha interpretado como un llamamiento a la construcción de conjuntos de datos y modelos más inclusivos. Yo sostengo que, por el contrario, los investigadores deberían interrogarse críticamente sobre lo que no puede o no debe ser reconocido por la visión por ordenador.

El reconocimiento es uno de los problemas más antiguos de la visión por ordenador. Para los investigadores de este campo, el reconocimiento es una cuestión de detección y clasificación. O, como dice el libro de texto Machine Vision, "El problema del reconocimiento de objetos puede definirse como un problema de etiquetado basado en modelos de objetos conocidos".

Cuando el reconocimiento se aplica a las personas, se convierte en una cuestión de utilizar los atributos visuales para determinar qué tipo de persona se representa en una imagen. Esta es la base del reconocimiento facial (FR), que intenta relacionar a una persona con una imagen previamente capturada de su rostro, y del análisis facial (FA), que pretende reconocer atributos como la raza, el género, la sexualidad o las emociones a partir de la imagen de un rostro.

Los recientes avances en la investigación de la IA y el aprendizaje automático (ML) (por ejemplo, las redes neuronales convolucionales y el aprendizaje profundo) han producido enormes ganancias en el rendimiento técnico de los modelos de reconocimiento facial y análisis facial. Estas mejoras de rendimiento han dado paso a una nueva era de reconocimiento facial y a su aplicación generalizada en ámbitos comerciales e institucionales. Sin embargo, las auditorías algorítmicas han revelado preocupantes disparidades de rendimiento cuando las tareas de reconocimiento y análisis facial se realizan en diferentes grupos demográficos, con una menor precisión para las mujeres de piel más oscura en particular.

*** Translated with www.DeepL.com/Translator (free version) ***