La IA puede predecir la raza de las personas a partir de imágenes de rayos X, y los científicos están preocupados
Los modelos de aprendizaje profundo basados en la inteligencia artificial pueden identificar la raza de alguien solo a partir de sus radiografías, según ha revelado una nueva investigación, algo que sería imposible para un médico humano que mirara las mismas imágenes.
Los resultados plantean algunas cuestiones preocupantes sobre el papel de la IA en el diagnóstico, la evaluación y el tratamiento médicos: ¿podría el software informático aplicar involuntariamente un sesgo racial al estudiar imágenes como estas?
Tras haber entrenado su IA con cientos de miles de imágenes de rayos X etiquetadas con detalles de la raza del paciente, un equipo internacional de investigadores sanitarios de EE.UU., Canadá y Taiwán probó su sistema con imágenes de rayos X que el software informático no había visto antes (y del que no tenía información adicional).
La IA pudo predecir la identidad racial del paciente que aparecía en esas imágenes con una precisión sorprendente, incluso cuando las exploraciones se tomaron de personas de la misma edad y el mismo sexo. El sistema alcanzó niveles del 90% con algunos grupos de imágenes.
"Nos propusimos realizar una evaluación exhaustiva de la capacidad de la IA para reconocer la identidad racial de un paciente a partir de imágenes médicas", escriben los investigadores en su artículo publicado.
"Demostramos que los modelos estándar de aprendizaje profundo de IA pueden ser entrenados para predecir la raza a partir de imágenes médicas con un alto rendimiento a través de múltiples modalidades de imágenes, que se mantuvo en condiciones de validación externa".
La investigación se hace eco de los resultados de un estudio anterior que descubrió que los escaneos de inteligencia artificial de las imágenes de rayos X tenían más probabilidades de pasar por alto los signos de enfermedad en las personas negras. Para evitar que esto ocurra, los científicos tienen que entender por qué se produce en primer lugar.
Comentarios
Publicar un comentario