El sesgo no es el único problema de las puntuaciones de crédito, y no, la IA no puede ayudar
Ya sabíamos que los datos y los algoritmos sesgados sesgan la toma de decisiones automatizada de una manera que perjudica a los grupos minoritarios y de bajos ingresos. Por ejemplo, el software utilizado por los bancos para predecir si alguien va a pagar o no la deuda de la tarjeta de crédito suele favorecer a los solicitantes blancos más ricos. Muchos investigadores y una serie de empresas emergentes están tratando de solucionar el problema haciendo que estos algoritmos sean más justos.
Historia relacionada
La próxima guerra contra los algoritmos ocultos que atrapan a la gente en la pobreza
Un grupo cada vez mayor de abogados está descubriendo, navegando y luchando contra los sistemas automatizados que niegan a los pobres vivienda, trabajo y servicios básicos.
Pero en el mayor estudio jamás realizado sobre datos hipotecarios del mundo real, los economistas Laura Blattner, de la Universidad de Stanford, y Scott Nelson, de la Universidad de Chicago, demuestran que las diferencias en la aprobación de hipotecas entre grupos minoritarios y mayoritarios no se deben únicamente a los prejuicios, sino al hecho de que los grupos minoritarios y de bajos ingresos tienen menos datos en sus historiales de crédito.
Esto significa que cuando estos datos se utilizan para calcular una puntuación de crédito y esta puntuación de crédito se utiliza para hacer una predicción sobre el incumplimiento del préstamo, entonces esa predicción será menos precisa. Es esta falta de precisión la que conduce a la desigualdad, no sólo al sesgo.
Las implicaciones son claras: unos algoritmos más justos no solucionarán el problema.
"Es un resultado realmente sorprendente", afirma Ashesh Rambachan, que estudia el aprendizaje automático y la economía en la Universidad de Harvard, pero que no participó en el estudio. Los sesgos y los registros crediticios irregulares son temas candentes desde hace tiempo, pero éste es el primer experimento a gran escala que analiza las solicitudes de préstamo de millones de personas reales.
Las puntuaciones crediticias agrupan una serie de datos socioeconómicos, como el historial de empleo, los registros financieros y los hábitos de compra, en una sola cifra. Además de para decidir sobre las solicitudes de préstamos, las puntuaciones de crédito se utilizan ahora para tomar muchas decisiones que cambian la vida, como las relativas a los seguros, la contratación y la vivienda.
Comentarios
Publicar un comentario