Cuando los algoritmos compiten, ¿quién gana?

 Con el tiempo, los algoritmos de predicción se especializan para una porción cada vez más estrecha de la población y la calidad media de sus predicciones disminuye.

Antes de comenzar su investigación, el equipo de Zou reconoció que existe una dinámica de retroalimentación en juego si los algoritmos de aprendizaje automático de las empresas compiten por usuarios o clientes y, al mismo tiempo, utilizan datos de clientes para entrenar su modelo. “Al ganar clientes, obtienen un nuevo conjunto de datos de esos clientes y, luego, al actualizar sus modelos en este nuevo conjunto de datos, en realidad cambian el modelo y lo orientan hacia los nuevos clientes que han ganado. terminado ”, dice Ginart.

El equipo se preguntó: ¿Cómo podría esa retroalimentación afectar la capacidad de los algoritmos para brindar recomendaciones de calidad? Para obtener una respuesta, analizaron matemáticamente la competencia algorítmica y la simularon utilizando algunos conjuntos de datos estándar. Al final, descubrieron que cuando los algoritmos de aprendizaje automático compiten, eventualmente (e inevitablemente) se especializan y mejoran en la predicción de las preferencias de una subpoblación de usuarios.

"No importa la cantidad de datos que tenga, siempre verá estos efectos", dice Zou. Además, "la disparidad se hace cada vez más grande con el tiempo, se amplifica debido a los bucles de retroalimentación".

https://hai.stanford.edu/blog/when-algorithms-compete-who-wins?utm_source=Stanford+HAI&utm_campaign=23fe453e9f-EMAIL_CAMPAIGN_2020_11_15&utm_medium=email&utm_term=0_aaf04f4a4b-23fe453e9f-63641443