Desafíos cognitivos en la colaboración entre humanos e inteligencia artificial: Investigando el camino hacia la delegación productiva
Estudiamos cómo los humanos toman decisiones cuando colaboran con una inteligencia artificial (IA) en un entorno en el que los humanos y la IA realizan tareas de clasificación. Nuestros resultados experimentales sugieren que los humanos y la IA que trabajan juntos pueden superar a la IA que supera a los humanos cuando trabaja por su cuenta. Sin embargo, el rendimiento combinado sólo mejora cuando la IA delega el trabajo en los humanos, pero no cuando los humanos delegan el trabajo en la IA. El rendimiento de la IA en materia de delegación mejora incluso cuando delega en sujetos de bajo rendimiento; en cambio, los humanos no delegan bien y no se benefician de la delegación en la IA. Este mal rendimiento de la delegación no puede explicarse con algún tipo de aversión al algoritmo. Por el contrario, los sujetos actuaron de forma racional e internamente coherente al tratar de seguir una estrategia de delegación probada y parecieron apreciar el apoyo de la IA. Sin embargo, el rendimiento humano se vio afectado por la falta de metaconocimiento, es decir, los humanos no fueron capaces de evaluar correctamente sus propias capacidades, lo que a su vez les llevó a tomar malas decisiones de delegación. La falta de metaconocimiento, a diferencia de la reticencia a utilizar la IA, es un rasgo inconsciente. Limita fundamentalmente la capacidad de los responsables humanos de tomar decisiones para colaborar con la IA y otros algoritmos. Los resultados tienen implicaciones para el futuro del trabajo, el diseño de entornos de colaboración entre humanos e IA y la educación en la era digital.
Comentarios
Publicar un comentario