Déjeme tomar el control: Autonomía variable para un control humano significativo

https://www.frontiersin.org/articles/10.3389/frai.2021.737072/full?&utm_source=Email_to_authors_&utm_medium=Email&utm_content=T1_11.5e1_author&utm_campaign=Email_publication&field=&journalName=Frontiers_in_Artificial_Intelligence&id=737072

A medida que la Inteligencia Artificial (IA) sigue ampliando su alcance, también crece la demanda de control humano y de desarrollo de sistemas de IA que se adhieran a nuestros valores legales, éticos y sociales. Muchas instituciones (internacionales y nacionales) han dado pasos en esta dirección y han publicado directrices para el desarrollo y el despliegue de sistemas de IA responsables. Estas directrices, sin embargo, se basan en gran medida en declaraciones de alto nivel que no proporcionan criterios claros para la evaluación del sistema, lo que hace que el control efectivo de los sistemas sea un reto. La "supervisión humana" es uno de los requisitos que se proponen como medio para apoyar la autonomía y la agencia humanas. En este documento, sostenemos que la presencia humana por sí sola no cumple este requisito y que esta idea errónea puede limitar el uso de la automatización cuando, por otra parte, puede aportar tantos beneficios en todos los sectores. Por tanto, proponemos el desarrollo de sistemas con autonomía variable -niveles de autonomía ajustables dinámicamente- como medio de garantizar un control humano significativo sobre un artefacto, satisfaciendo los tres valores fundamentales que suelen defenderse en las directrices éticas: la rendición de cuentas, la responsabilidad y la transparencia.