Equidad en el aprendizaje automático: lecciones de filosofía política

 ¿Qué significa que un modelo de aprendizaje automático sea "justo", en términos que se puedan racionalizar? ¿Debería la justicia consistir en asegurar que todos tengan la misma probabilidad de obtener algún beneficio, o deberíamos apuntar en cambio a minimizar los daños a los menos favorecidos? ¿Puede el ideal relevante ser determinado por referencia a algún estado de cosas alternativo en el que no exista un patrón social particular de discriminación? Varias definiciones propuestas en la literatura reciente hacen diferentes suposiciones sobre lo que significan términos como discriminación y equidad y cómo pueden definirse en términos matemáticos. Las cuestiones de discriminación, igualitarismo y justicia son de gran interés para los filósofos morales y políticos, que han realizado importantes esfuerzos para formalizar y defender estos conceptos centrales. Por lo tanto, no es sorprendente que los intentos de formalizar la "justicia" en el aprendizaje automático contengan ecos de estos viejos debates filosóficos. Este documento se basa en el trabajo existente en filosofía moral y política para dilucidar los debates emergentes sobre el aprendizaje automático justo.

http://proceedings.mlr.press/v81/binns18a/binns18a.pdf