Un estudio sobre la integración de la IA en la atención clínica

Un equipo de la Universidad de Duke y del sistema de salud de Duke desarrolló Sepsis Watch, un sistema de inteligencia artificial que utiliza el aprendizaje profundo para evaluar la probabilidad de que un paciente desarrolle sepsis, para ayudar al Departamento de Emergencias de Duke en el cuidado de pacientes con sepsis. La sepsis es una afección mortal que se desarrolla a partir de complicaciones con una infección y, aunque se puede tratar, puede ser difícil de diagnosticar y el diagnóstico temprano es fundamental.

Elish y Watkins narran la integración de Sepsis Watch a través de una lente sociotécnica: una que reconoce el trabajo humano necesario para armonizar un sistema técnico con las estructuras organizativas y sociales existentes. La integración de un sistema de IA crea roturas en las estructuras sociales que deben repararse para que la tecnología funcione según lo previsto. Las enfermeras de respuesta rápida del hospital de la Universidad de Duke asumieron la mayor parte de este trabajo de reparación, según los autores; trabajo que a menudo se oculta y se infravalora. Por ejemplo, mediaron jerarquías profesionales y realizaron trabajo emocional para comunicar estratégicamente las puntuaciones de riesgo de los pacientes a los médicos.

Los sistemas tecnológicos no existen en una burbuja. Requieren una interacción compleja de humanos, infraestructura y estructura organizacional para funcionar de manera efectiva. El uso de un marco sociotécnico y la valoración del trabajo de reparación y de quienes lo hacen amplía nuestra noción de dónde ocurre la innovación al valorar diferentes formas de especialización y resaltar la importancia de los diferentes tipos de trabajadores.

La innovación ocurre no solo cuando se está desarrollando un sistema de IA, sino también cuando se está integrando el sistema. Esto es importante de reconocer porque “cuando solo el trabajo de iniciación y construcción teórica - típicamente formas de trabajo de élite y masculinas - se valora en la IA, entonces gran parte del trabajo diario real requerido para hacer que la IA funcione en el mundo es hecho invisible y subvalorado ".

https://datasociety.net/library/repairing-innovation/

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.