La auditoría de algoritmos: puntuación de algoritmos que nos puntúan

 En los últimos años, el impacto ético de la IA se ha analizado cada vez más, y han surgido escándalos públicos por resultados sesgados, falta de transparencia y uso indebido de datos. Esto ha llevado a una creciente desconfianza en la IA y a un aumento de las llamadas a auditorías éticas de algoritmos. Las propuestas actuales para la evaluación ética de los algoritmos son de un nivel demasiado alto para ponerlas en práctica sin más orientación, o se centran en nociones muy específicas y técnicas de equidad o transparencia que no consideran a las múltiples partes interesadas ni al contexto social más amplio. En este artículo, presentamos un marco de auditoría para guiar la evaluación ética de un algoritmo. El instrumento de auditoría en sí se compone de tres elementos: una lista de posibles intereses de las partes interesadas afectadas por el algoritmo, una evaluación de métricas que describen características clave éticamente sobresalientes del algoritmo y una matriz de relevancia que conecta las métricas evaluadas con los intereses de las partes interesadas. El instrumento de auditoría propuesto arroja una evaluación ética de un algoritmo que podría ser utilizado por los reguladores y otros interesados ​​en realizar la debida diligencia, prestando especial atención al complejo contexto social dentro del cual se implementa el algoritmo.

https://journals.sagepub.com/doi/pdf/10.1177/2053951720983865