La (in) credibilidad de los modelos algorítmicos para los no expertos
El rápido desarrollo y difusión del análisis de datos.
técnicas permiten la creación de algoritmos cada vez más intrincados
modelos. Tales modelos son simultáneamente el vehículo y el resultado
de las prácticas de cuantificación y encarnan una cosmovisión con
normas y valores asociados. Se requiere un conjunto de habilidades especializadas para
crear, utilizar o interpretar modelos algorítmicos. La mecánica de un
El modelo algorítmico puede ser difícil de comprender para los expertos y
puede ser prácticamente incomprensible para los no expertos. Esto es de
consecuencia porque tal boxeo negro puede introducir poder
asimetrías y pueden ocultar sesgos. Este documento explora el
prácticas a través de las cuales expertos y no expertos determinan la
credibilidad de los modelos algorítmicos. Concluye que (1) transparencia
para (no) expertos es, en el mejor de los casos, problemático y, en el peor, inalcanzable;
(2) los modelos autorizados pueden llegar a dictar qué tipos de políticas
se consideran factibles; (3) varias de las ventajas atribuidas a
el uso de cuantificaciones no se sostiene en contextos de formulación de políticas.
Comentarios
Publicar un comentario