La Ética de la IA en la Salud

-
Este artículo presenta una revisión de mapeo de la literatura sobre la ética de la inteligencia artificial (IA) en la atención médica. El objetivo de esta revisión es resumir los debates actuales e identificar preguntas abiertas para futuras investigaciones. Se realizaron búsquedas en cinco bases de datos bibliográficas para respaldar la siguiente pregunta de investigación: ¿cómo se pueden clasificar los principales riesgos éticos presentados por AI-salud, y qué problemas deben considerar los encargados de formular políticas, los reguladores y los desarrolladores para ser éticamente conscientes? Se llevaron a cabo una serie de etapas de detección, por ejemplo, la eliminación de artículos que se centraron en la salud digital en general (por ejemplo, intercambio de datos, acceso a datos, privacidad de datos, vigilancia / empujones, consentimiento, propiedad de los datos de salud, evidencia de eficacia). total de 156 artículos que se incluyeron en la revisión.

Encontramos que los problemas éticos pueden ser (a) epistémicos, relacionados con evidencia equivocada, no concluyente o inescrutable; (b) normativa, relacionada con resultados injustos y efectivos transformadores; o (c) relacionado con la trazabilidad. Además, encontramos que estos problemas éticos surgen en seis niveles de abstracción: individual, interpersonal, grupal, institucional y social o sectorial. Finalmente, describimos una serie de consideraciones para los encargados de formular políticas y los reguladores, mapeándolos con la literatura existente y clasificándolos como epistémicos, normativos o relacionados con la trazabilidad y en el nivel relevante de abstracción. Nuestro objetivo es informar a los formuladores de políticas, reguladores y desarrolladores de lo que deben considerar para permitir que los sistemas de salud y atención capitalicen la doble ventaja de la IA ética; maximizando las oportunidades para reducir costos, mejorar la atención y mejorar la eficiencia de los sistemas de salud y atención, evitando de manera proactiva los posibles daños. Argumentamos que si no se toman medidas rápidamente a este respecto, podría ocurrir un nuevo "invierno de IA" debido a los efectos escalofriantes relacionados con una pérdida de confianza pública en los beneficios de la IA para la atención médica.


Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad Deep Learning (@forodeeplearn). 

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeaba eq
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu
Leer más