¿Puede la auditoría eliminar el sesgo de los algoritmos?

https://themarkup.org/ask-the-markup/2021/02/23/can-auditing-eliminate-bias-from-algorithms

Durante más de una década, los periodistas e investigadores han escrito sobre los peligros de depender de algoritmos para tomar decisiones importantes: quién es encerrado, quién consigue un trabajo, quién obtiene un préstamo, incluso quién tiene prioridad para las vacunas COVID-19.

En lugar de eliminar el sesgo, un algoritmo tras otro lo ha codificado y perpetuado, ya que las empresas han continuado al mismo tiempo protegiendo más o menos sus algoritmos del escrutinio público.

La gran pregunta desde entonces: ¿Cómo resolvemos este problema? Los legisladores e investigadores han abogado por auditorías algorítmicas, que diseccionarían y probarían los algoritmos para ver cómo funcionan y si están cumpliendo sus objetivos declarados o produciendo resultados sesgados. Y hay un campo creciente de firmas de auditoría privadas que pretenden hacer precisamente eso. Cada vez más, las empresas recurren a estas empresas para revisar sus algoritmos, particularmente cuando se han enfrentado a críticas por resultados sesgados, pero no está claro si tales auditorías en realidad hacen que los algoritmos sean menos sesgados, o si simplemente son buenas relaciones públicas.