La IA hace predicciones extrañamente precisas a partir de escaneos médicos borrosos, alarmando a los investigadores

https://www.iflscience.com/technology/ai-makes-strangely-accurate-predictions-from-blurry-medical-scans-alarming-researchers/

Una nueva investigación ha descubierto que la inteligencia artificial (IA) que analiza las exploraciones médicas puede identificar la raza de los pacientes con un grado de precisión asombroso, mientras que sus homólogos humanos no pueden hacerlo. Ahora que la Administración de Alimentos y Medicamentos (FDA) está aprobando más algoritmos para uso médico, a los investigadores les preocupa que la IA pueda acabar perpetuando los prejuicios raciales. Les preocupa especialmente que no hayan podido averiguar con precisión cómo los modelos de aprendizaje automático fueron capaces de identificar la raza, incluso a partir de imágenes muy corruptas y de baja resolución.

En el estudio, publicado en el servicio de preimpresión Arxiv, un equipo internacional de médicos investigó cómo los modelos de aprendizaje profundo pueden detectar la raza a partir de imágenes médicas. Utilizando escáneres de tórax privados y públicos y datos autodeclarados sobre la raza y el origen étnico, primero evaluaron la precisión de los algoritmos, antes de investigar el mecanismo.