Los valores codificados en la investigación del aprendizaje automático

https://arxiv.org/abs/2106.15590

El aprendizaje automático (ML) ejerce actualmente una influencia desmesurada en el mundo, afectando cada vez más a las comunidades y a las prácticas institucionales. Por lo tanto, es fundamental que cuestionemos las vagas concepciones de este campo como neutral en cuanto a los valores o universalmente beneficioso, y que investiguemos qué valores específicos está promoviendo este campo. En este artículo, presentamos un examen riguroso de los valores del campo mediante el análisis cuantitativo y cualitativo de 100 artículos de ML altamente citados publicados en las principales conferencias de ML, ICML y NeurIPS. Anotamos las características clave de los artículos que revelan sus valores: cómo justifican su elección del proyecto, qué aspectos realzan, su consideración de las posibles consecuencias negativas y sus afiliaciones institucionales y fuentes de financiación. Descubrimos que las necesidades de la sociedad suelen estar muy poco relacionadas con la elección del proyecto, si es que se mencionan, y que la consideración de las consecuencias negativas es extremadamente rara. Identificamos 67 valores que se elevan en la investigación sobre el aprendizaje automático y, de ellos, encontramos que los trabajos se justifican y evalúan con mayor frecuencia en función del rendimiento, la generalización, la eficiencia, la comprensión del investigador, la novedad y el aprovechamiento de trabajos anteriores. Presentamos amplias pruebas textuales y análisis de cómo se operacionalizan estos valores. En particular, descubrimos que cada uno de estos valores principales se define y aplica actualmente con suposiciones e implicaciones que generalmente apoyan la centralización del poder. Por último, encontramos vínculos cada vez más estrechos entre estos artículos altamente citados y las empresas tecnológicas y las universidades de élite.