Contener al canario en la mina de carbón de IA: los esfuerzos de la UE para regular la biometría

https://www.adalovelaceinstitute.org/blog/canary-ai-coalmine-eu-regulate-biometrics/

El borrador del reglamento de IA publicado por la Unión Europea la semana pasada es significativo porque es el primero de su tipo en el mundo: un intento integral, intersectorial y supranacional de regular la inteligencia artificial (IA) y los productos algorítmicos en una gama de sectores de riesgo.

Aunque solo tiene una semana, la propuesta de la Comisión ya ha logrado una hazaña impresionante: ha alejado la ventana política de una conversación sobre si se debe regular la inteligencia artificial, abriendo un nuevo discurso sobre cómo regular la inteligencia artificial.

Las tecnologías biométricas figuran en gran medida en el borrador de la Comisión, y por una buena razón. Tecnologías controvertidas como el reconocimiento facial han actuado como un canario en la mina de carbón de IA, provocando alarma individual y debate social sobre el papel de la IA en nuestras sociedades. En los próximos meses, la regulación propuesta será criticada desde muchas perspectivas, y existen limitaciones evidentes en varias áreas, pero aquí analizaremos sus efectos potenciales sobre los usos de las tecnologías de identificación biométrica, incluidas las tecnologías de reconocimiento facial.

La encuesta nacional del Instituto Ada Lovelace sobre actitudes públicas hacia el reconocimiento facial publicada en 2019 demostró cómo las actitudes públicas hacia el reconocimiento facial diferían en una variedad de casos de uso y contextos, y reveló un apoyo general para una mayor regulación, particularmente del uso policial de la tecnología.

En los años intermedios, a medida que la investigación, principalmente realizada por mujeres negras, ha construido una base de evidencia de las formas en que las tecnologías biométricas exacerban las desigualdades existentes y fomentan nuevos daños, los gobiernos y las empresas de tecnología han tomado medidas para limitar o detener el uso del reconocimiento facial y otros métodos biométricos. tecnologías de identificación. Pero pocas legislaturas han propuesto una regulación más estricta de la biometría, y el estado de Illinois es una excepción destacada. Para comprender esta dinámica en el Reino Unido, el Instituto Ada Lovelace ha encargado a Matthew Ryder QC que realice un análisis del marco regulatorio para la biometría y proponga opciones para la reforma legislativa.