Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI
Este interesante artículo analiza cómo la legislación y la jurisprudencia europea aborda la discriminación.
La regulación consiste en cuatro directivas: Igualdad Racial, Igualdad de género, igualdad de Acceso de Género y la directiva de Empleo. Las directivas europeas no son directamente aplicables, han de ser trapuestas por los Estados Miembros, lo que supone una regulación no uniforme.
La discriminación puede ser directa, de una persona concreta, o indirecta, de un grupo frente a otro grupo.
En las demandas de discriminación de un grupo o de una persona, se busca un comparador y un grupo contra el que se demanda estar desfavorecido. Este artículo recoge diversos casos de la Corte Europea de Justicia. Normalmente, los tribunales se fijan en el grupo desfavorecido y en el comparador y no suelen atender al grupo favorecido. Las sentencias se basan en la aplicación del sentido común. En general se ignoran los indicadores estadísticos presentados, aduciendo que las resoluciones son dependientes del contexto.
Esta publicación presenta un indicador denominado Disparidad Demográfica Condicional que tiene en cuenta tanto los aventajados como los desfavorecidos del grupo aventajado y desfavorecido.
Los técnicos estadísticos y de IA han estudiado mucho la cuestión de la equidad y la judicatura ha ignorado ese campo. En cambio los últimos conocen bien la complicación de la administración de justicia en los casos de discriminación y no los primeros. Por eso, aboga por un trabajo conjunto entre técnicos y juristas para poder obtener información estadística que, aunque no sea un valor de numérico absoluto de justicia de una situación, pueda ser una información útil para que los jueces puedan resolver más informados.
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3547922
Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)
La regulación consiste en cuatro directivas: Igualdad Racial, Igualdad de género, igualdad de Acceso de Género y la directiva de Empleo. Las directivas europeas no son directamente aplicables, han de ser trapuestas por los Estados Miembros, lo que supone una regulación no uniforme.
La discriminación puede ser directa, de una persona concreta, o indirecta, de un grupo frente a otro grupo.
En las demandas de discriminación de un grupo o de una persona, se busca un comparador y un grupo contra el que se demanda estar desfavorecido. Este artículo recoge diversos casos de la Corte Europea de Justicia. Normalmente, los tribunales se fijan en el grupo desfavorecido y en el comparador y no suelen atender al grupo favorecido. Las sentencias se basan en la aplicación del sentido común. En general se ignoran los indicadores estadísticos presentados, aduciendo que las resoluciones son dependientes del contexto.
Esta publicación presenta un indicador denominado Disparidad Demográfica Condicional que tiene en cuenta tanto los aventajados como los desfavorecidos del grupo aventajado y desfavorecido.
Los técnicos estadísticos y de IA han estudiado mucho la cuestión de la equidad y la judicatura ha ignorado ese campo. En cambio los últimos conocen bien la complicación de la administración de justicia en los casos de discriminación y no los primeros. Por eso, aboga por un trabajo conjunto entre técnicos y juristas para poder obtener información estadística que, aunque no sea un valor de numérico absoluto de justicia de una situación, pueda ser una información útil para que los jueces puedan resolver más informados.
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3547922
Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)
Comentarios
Publicar un comentario