El objetivo no debería ser una IA Confiable

Pensamiento de Mariarosaria Taddeo.

 Uno de los principios que se incluyen con más frecuencia en las pautas éticas para la inteligencia artificial es la "IA confiable". Pero Taddeo dice que el término es un nombre inapropiado:

La confianza es una forma de delegar una tarea y dejar de controlar o supervisar la forma en que se realiza la tarea. Eso no es lo que queremos de la IA. Técnicamente hablando, la IA no es una tecnología de rubes, puede ser atacada y manipulada, sin que el usuario lo sepa.

Confiar y olvidarse de la IA es un enfoque peligroso. El uso de IA debe ir acompañado de formas de seguimiento y control del sistema. Más que una IA confiable, debemos desarrollar procesos para que la IA sea confiable.

Taddeo cree que los Principios de la OCDE sobre Inteligencia Artificial son muy buenos en este sentido, ya que se refieren a la necesidad de un seguimiento continuo de los sistemas. Esto puede garantizar que los sistemas de IA continúen comportándose como se espera durante su implementación.

https://thenextweb.com/neural/2020/09/28/our-goal-shouldnt-be-to-build-merely-trustworthy-ai/

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.