Sobreconfianza - Un Sprint de Diseño para desarrollar iniciativas para mitigar la sobreconfianza en la IA y las tecnologías automatizadas

-

https://appliedmldays.org/events/amld-epfl-2022/tracks/overtrust-a-design-sprint-to-develop-initiatives-to-mitigate-overtrust-in-ai-and-automated-technologies


La confianza en la automatización, definida como "la actitud de que un agente alcanzará los objetivos de un individuo en una situación caracterizada por la incertidumbre y la vulnerabilidad" [1], es un constructo psicológico básico en la interacción entre humanos y máquinas, y ha cobrado un impulso adicional debido a los recientes avances en inteligencia artificial (IA). La provisión de una IA digna de confianza es un objetivo específico de la Comisión de la UE [2], y los investigadores debaten intensamente el tema en campos como la ingeniería de factores humanos [1], el comercio electrónico [4], la interacción hombre-robot [5] y otros. La investigación ha demostrado que las personas desarrollan relaciones de confianza con los sistemas técnicos, lo que influye en cuándo y cómo los humanos confían en las máquinas y en las decisiones de la IA.

Comentarios

Publicar un comentario

Popular

Herramientas de Evaluación de Sistemas Algorítmicos

-
Este artículo clarifica varias definiciones Auditoría Algorítmica Auditoría de sesgos (bias) Inspección regulatoria Evaluación de impacto algorítmico Evaluación de riesgo algorítmico Evaluación de impacto algorítmico https://www.adalovelaceinstitute.org/examining-the-black-box-tools-for-assessing-algorithmic-systems/ Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)
Leer más

Sistemas multiagentes: Desafíos técnicos y éticos del funcionamiento en un grupo mixto

-
https://www.amacad.org/publication/multi-agent-systems-technical-ethical-challenges-functioning-mixed-group En el mundo informático actual, altamente interconectado y de red abierta, los agentes informáticos de la inteligencia artificial interactúan cada vez más en grupo entre sí y con las personas, tanto virtualmente como en el mundo físico. Los principales retos actuales de la IA consisten en determinar formas de construir sistemas de IA que funcionen de forma eficaz y segura para las personas y las sociedades en las que viven. Para incorporar el razonamiento sobre las personas, la investigación en sistemas multiagente ha generado cambios paradigmáticos en el diseño, los modelos y los métodos de los agentes informáticos, así como el desarrollo de nuevas representaciones de la información sobre los agentes y sus entornos. Estos cambios han planteado retos tanto técnicos como éticos y sociales. En este ensayo se describen los avances técnicos en las representaciones, la toma de decisio
Leer más

Controversias éticas en torno a la privacidad, la confidencialidad y el anonimato en investigación social

-
  El propósito de este artículo es mostrar algunas de las particularidades, alcances y limitaciones de la privacidad, la confidencialidad y el anonimato en el ámbito de la ética de la investigación en ciencias sociales. El presente artículo está organizado en tres apartados. En primer lugar, se definirán y distinguirán los conceptos de privacidad y confidencialidad y se mostrarán sus características singulares en investigación social. En segundo lugar, se analizarán algunos debates y críticas actuales en torno al anonimato. Finalmente, se examinarán los alcances y limitaciones al resguardo de la información y los desafíos que implican nuevos entornos de investigación social. http://scielo.isciii.es/scielo.php?script=sci_arttext&pid=S1886-58872016000200002 Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresan necesar
Leer más