Transparencia significativa y algoritmos (in)visibles

Los esfuerzos en curso de los investigadores revelan casos individuales de preocupación, pero sigue habiendo un déficit sistémico persistente en la comprensión del público sobre dónde y cómo se utilizan estos sistemas. Esto apunta a una cuestión fundamental de transparencia.

La transparencia tiene una larga tradición en el trabajo anticorrupción y es un elemento central en los debates de responsabilidad algorítmica, tanto en los campos de la regulación como en la ética de los datos. En los últimos años, ha habido reiterados llamamientos a la transparencia de los sistemas ADM, aunque con poco efecto, posiblemente porque tales llamamientos han tendido a adoptar la forma de posicionamiento retórico de alto nivel en lugar de propuestas sustantivas.

Las organizaciones de la sociedad civil han ido un paso más allá, al sugerir que las organizaciones del sector público deberían utilizar mecanismos de transparencia como la obligación de informar y la institución de registros públicos. [2]

A pesar de este debate, existe poco consenso en el Reino Unido o en toda Europa sobre la forma que debería tomar la transparencia con respecto a los sistemas ADM. Los debates sobre transparencia a menudo pasan por alto una conversación más fundamental sobre lo que la transparencia está tratando de lograr y no logran lidiar con los desafíos de implementarla de manera sistemática.

https://www.adalovelaceinstitute.org/meaningful-transparency-and-invisible-algorithms/

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.