El problema de la IA de Transparencia

https://knightcolumbia.org/content/transparencys-ai-problem

La inteligencia artificial tiene un grave problema de transparencia. La IA está transformando la gobernanza, pero sus resultados son difíciles de explicar y sus procesos son imposibles de entender para los usuarios no profesionales. 1. La IA es un término notoriamente resbaladizo. En este ensayo, estoy hablando de sistemas de software que pueden interpretar grandes cantidades de datos y determinar cómo actuar para lograr un objetivo articulado. Ver Eur. Comm'n High Level Expert Grp. en A.I., Pautas de ética para una inteligencia artificial confiable, en 36 (8 de abril de 2019). Véase también David Freeman Engstrom et al., Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies, ssrn elec. j. (2020) Es más, las herramientas de inteligencia artificial en las que los gobiernos confían cada vez más para automatizar la toma de decisiones a menudo se obtienen de proveedores del sector privado, lo que agrava la incapacidad del público para determinar qué es, exactamente, lo que el gobierno está haciendo cuando utiliza la inteligencia artificial. Juntas, estas dos características han llevado a los académicos a evaluar críticamente la transparencia y la responsabilidad de las herramientas y técnicas de IA, y a tratar de mejorar el diseño y el rendimiento de la IA para satisfacer estos valores esenciales.

Sin embargo, hay poco consenso sobre lo que realmente significa la transparencia algorítmica. En un sentido técnico, los expertos han descrito las maquinaciones y determinaciones de la IA como "opacas" porque son difíciles de explicar o articular, incluso para los expertos. 3. Jenna Burrell, How the Machine "Thinks": Understanding Opacity in Machine Learning Algorithms, big data & society, enero-junio de 2016. Pero incluso los sistemas que son técnicamente transparentes pueden permanecer opacos en un sentido legal y político. Los sistemas de decisión automatizados a menudo se adquieren en secreto o con supervisión pública limitada. Las obligaciones de gobierno abierto como la Ley de Libertad de Información y las leyes de registros públicos estatales no llegan directamente a los proveedores del sector privado que suministran tecnología de IA / ML al gobierno. Hoy en día, las empresas privadas tienen casi el monopolio de la información crítica sobre las ramificaciones éticas, legales, políticas y tecnológicas de la inteligencia artificial, con pocas responsabilidades concomitantes de divulgarla al público.4