Hay una crisis de reconocimiento facial y vigilancia en EE. UU.
Cuando se supo que una coincidencia errónea de un sistema de reconocimiento facial había llevado a la policía de Detroit a arrestar a Robert Williams por un crimen que no cometió, era a fines de junio, y el país ya estaba trastornado por la muerte de George Floyd un mes antes. . Poco después, se supo que otro hombre negro, Michael Oliver, fue arrestado en circunstancias similares a las de Williams. Si bien gran parte de EE. UU. Sigue clamando por justicia racial, se está gestando una conversación más tranquila sobre la tecnología de reconocimiento facial y la policía. Haríamos bien en escuchar.
Cuando Jennifer Strong y yo comenzamos a informar sobre el uso de la tecnología de reconocimiento facial por parte de la policía para nuestro nuevo podcast, "In Machines We Trust", sabíamos que estos sistemas impulsados por inteligencia artificial estaban siendo adoptados por policías en todo Estados Unidos y en otros países. Pero no teníamos idea de cuánto estaba sucediendo fuera del ojo público.
Para empezar, no sabemos con qué frecuencia los departamentos de policía de EE. UU. Utilizan el reconocimiento facial por la sencilla razón de que, en la mayoría de las jurisdicciones, no tienen que informar cuando lo utilizan para identificar a un sospechoso de un delito. Las cifras más recientes son especulativas y de 2016, pero sugieren que en ese momento, al menos la mitad de los estadounidenses tenían fotos en un sistema de reconocimiento facial. Un condado de Florida realizó 8.000 búsquedas cada mes.
Tampoco sabemos qué departamentos de policía tienen tecnología de reconocimiento facial, porque es común que la policía oculte su proceso de adquisición. Hay evidencia, por ejemplo, de que muchos departamentos compran su tecnología mediante subvenciones federales o obsequios sin fines de lucro, que están exentos de ciertas leyes de divulgación. En otros casos, las empresas ofrecen períodos de prueba a la policía para su software que permiten a los agentes utilizar los sistemas sin ninguna aprobación o supervisión oficial. Esto permite a las empresas que fabrican sistemas de reconocimiento facial afirmar que sus productos se utilizan ampliamente y dar la impresión de que son herramientas populares y fiables para resolver delitos.
Pero si el reconocimiento facial es conocido por algo, es por lo poco confiable que es. Como informamos en el programa, en enero, la Policía Metropolitana de Londres presentó un sistema de reconocimiento facial en vivo que en las pruebas tenía una tasa de precisión de menos del 20%. En la ciudad de Nueva York, la Autoridad de Tránsito Metropolitano probó un sistema en las principales carreteras con una tasa de precisión del 0%. Los sistemas también suelen tener prejuicios raciales: un estudio encontró que en algunos sistemas comerciales, incluso en condiciones de laboratorio, las tasas de error en la identificación de mujeres de piel más oscura rondaban el 35%. Mientras informamos para el programa, descubrimos que no es raro que la policía altere las fotos para mejorar sus posibilidades de encontrar una coincidencia. Algunos incluso defendieron la práctica como fundamental para hacer un buen trabajo policial.
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario