El sesgo en la IA se está extendiendo y es hora de solucionar el problema

https://venturebeat-com.cdn.ampproject.org/c/s/venturebeat.com/2022/01/29/bias-in-ai-is-spreading-and-its-time-to-fix-the-problem/amp/

El aprendizaje automático comienza con el análisis de una tabla de datos históricos y la producción de lo que se llama un modelo; esto se conoce como entrenamiento. Una vez creado el modelo, se puede introducir una nueva fila de datos en el modelo y se obtiene una predicción. Por ejemplo, se puede entrenar un modelo a partir de una lista de transacciones inmobiliarias y luego utilizarlo para predecir el precio de venta de una casa que aún no se ha vendido.

Hoy en día, el aprendizaje automático presenta dos problemas principales. El primero es el problema de la "caja negra". Los modelos de aprendizaje automático hacen predicciones muy precisas, pero carecen de la capacidad de explicar el razonamiento detrás de una predicción en términos comprensibles para los humanos. Los modelos de aprendizaje automático se limitan a dar una predicción y una puntuación que indica la confianza en esa predicción.