Sobreconfianza - Un Sprint de Diseño para desarrollar iniciativas para mitigar la sobreconfianza en la IA y las tecnologías automatizadas
La confianza en la automatización, definida como "la actitud de que un agente alcanzará los objetivos de un individuo en una situación caracterizada por la incertidumbre y la vulnerabilidad" [1], es un constructo psicológico básico en la interacción entre humanos y máquinas, y ha cobrado un impulso adicional debido a los recientes avances en inteligencia artificial (IA). La provisión de una IA digna de confianza es un objetivo específico de la Comisión de la UE [2], y los investigadores debaten intensamente el tema en campos como la ingeniería de factores humanos [1], el comercio electrónico [4], la interacción hombre-robot [5] y otros. La investigación ha demostrado que las personas desarrollan relaciones de confianza con los sistemas técnicos, lo que influye en cuándo y cómo los humanos confían en las máquinas y en las decisiones de la IA.
Comentarios
Publicar un comentario