Un enfoque legal de los "algoritmos discriminación positiva"

Una rama separada de la jurisprudencia de acción afirmativa, vinculada a la contratación del gobierno, ha permitido durante mucho tiempo preferencias explícitas de raza y género. Las agencias federales, estatales y locales crean reservas reservadas y preferencias de licitación para los contratistas de propiedad de minorías, y esas preferencias han sido aprobadas legalmente porque las agencias podrían documentar sus propias historias de discriminación.

Ho dice que los defensores de la equidad bien podrían justificar las correcciones basadas en la raza o el género sobre la base de la discriminación pasada. Al igual que el sistema de Amazon, la mayoría de los modelos de inteligencia artificial se entrenan con datos históricos que pueden incorporar patrones pasados ​​de discriminación.

Lo que enfatiza la ley, dice Ho, es que la magnitud del ajuste debe seguir la evidencia de discriminación histórica. El precedente de contratación gubernamental permite una cuantificación explícita, lo que hace que el aprendizaje automático justo sea más factible.

Dicho de otra manera, dicen Ho y Xiang, la jurisprudencia del derecho contractual del gobierno puede ofrecer un escape de la trampa de la ceguera y un camino hacia la justicia a través de la conciencia.

https://hai.stanford.edu/blog/legal-approach-affirmative-algorithms