Problemas éticos que surgen debido a sesgos en la capacitación A.I. Algoritmos en el cuidado de la salud y el intercambio de datos como una posible solución
Se ha demostrado que los algoritmos de aprendizaje automático son capaces de diagnosticar cáncer, enfermedad de Alzheimer e incluso seleccionar opciones de tratamiento. Sin embargo, la mayoría de los sistemas de aprendizaje automático implementados en el entorno sanitario tienden a basarse en el paradigma de aprendizaje automático supervisado. Estos sistemas tienden a depender de datos recopilados previamente y anotados por personal médico de poblaciones específicas. Esto conduce a modelos de aprendizaje automático "aprendidos" que carecen de posibilidad de generalización. En otras palabras, las predicciones de la máquina no son tan precisas para ciertas poblaciones y pueden estar en desacuerdo con las recomendaciones de los expertos médicos que no anotaron los datos utilizados para entrenar estos modelos. Con cada aspecto decidido por humanos de la construcción de modelos de aprendizaje automático supervisados, el sesgo humano se introduce en la toma de decisiones de la máquina. Este sesgo humano es fuente de numerosas preocupaciones éticas. En este manuscrito, describimos y discutimos tres desafíos para la generalización que afectan la implementación en el mundo real de los sistemas de aprendizaje automático en la práctica clínica. En primer lugar, existe un sesgo que se produce debido a las características de la población de la que se recopilaron los datos. En segundo lugar, el sesgo que se produce debido al prejuicio del anotador experto involucrado. Y tercero, el sesgo por el momento en que A.I. los procesos comienzan a formarse ellos mismos. También discutimos las implicaciones futuras de estos sesgos. Más importante aún, describimos cómo el intercambio responsable de datos puede ayudar a mitigar los efectos de estos sesgos y permitir el desarrollo de algoritmos novedosos que pueden entrenarse de manera imparcial. Discutimos los obstáculos ambientales y regulatorios que dificultan el intercambio de datos en la medicina, y discutimos las posibles actualizaciones de las regulaciones actuales que pueden permitir el intercambio ético de datos para el aprendizaje automático. Con estas actualizaciones en mente, también discutimos los marcos algorítmicos emergentes que se utilizan para crear sistemas médicos de aprendizaje automático, que eventualmente pueden aprender a estar libres de sesgos inducidos por la población y los expertos. Estos modelos se pueden implementar realmente en clínicas de todo el mundo, haciendo que la medicina sea más barata y más accesible para el mundo en general.
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario