El aprendizaje automático está en auge en la medicina. También se enfrenta a una crisis de credibilidad

https://www.statnews.com/2021/06/02/machine-learning-ai-methodology-research-flaws/

La loca carrera se aceleró tan rápido como la pandemia. Los investigadores corrieron para ver si la inteligencia artificial podía desentrañar los muchos secretos de Covid-19, y por una buena razón. Hubo una escasez de pruebas y tratamientos para un número vertiginoso de pacientes. Quizás la IA podría detectar la enfermedad antes en imágenes pulmonares y predecir qué pacientes tenían más probabilidades de enfermarse gravemente.

Cientos de estudios llegaron a servidores de preimpresión y revistas médicas que afirman demostrar la capacidad de la IA para realizar esas tareas con gran precisión. No fue hasta muchos meses después que un equipo de investigación de la Universidad de Cambridge en Inglaterra comenzó a examinar los modelos, más de 400 en total, y llegó a una conclusión muy diferente: todos y cada uno de ellos tenía fallas fatales.

"Fue una verdadera revelación y bastante sorprendente la cantidad de fallas metodológicas que ha habido", dijo Ian Selby, radiólogo y miembro del equipo de investigación. La revisión encontró que los algoritmos a menudo se entrenaron en pequeñas muestras de datos de origen único con diversidad limitada; algunos incluso reutilizaron los mismos datos para el entrenamiento y las pruebas, un pecado capital que puede conducir a un desempeño engañosamente impresionante. Selby, un creyente en el potencial a largo plazo de la IA, dijo que la omnipresencia de los errores y las ambigüedades hace que sea difícil tener fe en las afirmaciones publicadas.