Lenguaje (Tecnología) es poder: una encuesta crítica sobre "sesgos" en NLP
Examinamos 146 artículos que analizan el "sesgo" en los sistemas de NLPy encontramos que sus motivaciones son a menudo vagas, inconsistentes y carentes de razonamiento normativo, a pesar de que el análisis del "sesgo" es un proceso inherentemente normativo. Además, encontramos que las técnicas cuantitativas propuestas por estos documentos para medir o mitigar el "sesgo" no se ajustan a sus motivaciones y no se relacionan con la literatura relevante fuera de la NLP. Con base en estos hallazgos, describimos los comienzos de un camino hacia adelante al proponer tres recomendaciones que deberían guiar el trabajo analizando el "sesgo" en los sistemas de NLP. Estas recomendaciones se basan en un mayor reconocimiento de las relaciones entre el lenguaje y las jerarquías sociales, alentando a los investigadores y profesionales a articular sus conceptualizaciones de "sesgo", es decir, qué tipos de comportamientos del sistema son perjudiciales, de qué maneras, a quién y por qué , así como el razonamiento normativo que subyace a estas afirmaciones, y centrar el trabajo en torno a las experiencias vividas de los miembros de las comunidades afectadas por los sistemas de NLP, mientras se interroga y reinventa las relaciones de poder entre los tecnólogos y dichas comunidades.
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario