Meaningful human control: actionable properties for AI system development

https://link.springer.com/article/10.1007/s43681-022-00167-3?s=03#Sec3



Resumen

¿Cómo pueden los seres humanos mantener el control de los sistemas basados en la inteligencia artificial (IA) diseñados para realizar tareas de forma autónoma? Estos sistemas son cada vez más omnipresentes, lo que genera ventajas, pero también situaciones indeseables en las que la responsabilidad moral de sus acciones no puede atribuirse adecuadamente a ninguna persona o grupo en particular. Se ha propuesto el concepto de control humano significativo para abordar las lagunas de responsabilidad y mitigarlas estableciendo condiciones que permitan atribuir adecuadamente la responsabilidad a los seres humanos; sin embargo, todavía no existen requisitos claros para los investigadores, diseñadores e ingenieros, lo que dificulta el desarrollo de sistemas basados en la IA que permanezcan bajo un control humano significativo. En este artículo abordamos la brecha existente entre la teoría filosófica y la práctica de la ingeniería identificando, mediante un proceso iterativo de pensamiento abductivo, cuatro propiedades procesables para los sistemas basados en IA bajo control humano significativo, que analizamos haciendo uso de dos escenarios de aplicación: los vehículos automatizados y la contratación basada en IA. En primer lugar, un sistema en el que interactúen humanos y algoritmos de IA debería tener un dominio explícitamente definido de situaciones con carga moral dentro de las cuales el sistema debería operar. En segundo lugar, los humanos y los agentes de la IA dentro del sistema deben tener representaciones apropiadas y mutuamente compatibles. En tercer lugar, la responsabilidad atribuida a un ser humano debe ser proporcional a su capacidad y autoridad para controlar el sistema. En cuarto lugar, debe haber vínculos explícitos entre las acciones de los agentes de IA y las acciones de los humanos que son conscientes de su responsabilidad moral. Sostenemos que estas cuatro propiedades ayudarán a los profesionales con mentalidad práctica a dar pasos concretos hacia el diseño y la ingeniería de sistemas de IA que faciliten un control humano significativo.


Comentarios

Popular

Herramientas de Evaluación de Sistemas Algorítmicos

Sistemas multiagentes: Desafíos técnicos y éticos del funcionamiento en un grupo mixto

Controversias éticas en torno a la privacidad, la confidencialidad y el anonimato en investigación social