Tres preguntas equivocadas sobre la confianza y la inteligencia artificial
1. ¿Confía [el usuario] en la IA?
La cuestión de si alguien confía en la IA, o en qué medida, es de hecho completamente inútil. El tema de la confianza siempre tiene tres dimensiones: quién confía, en quién se confía y cuál es el objetivo de esta confianza. Por ejemplo: confío en que Amazon entregará mi pedido a la brevedad. Pero no confío en que Amazon utilice mis datos personales "éticamente", o que no los utilice indebidamente con fines de marketing y me analice utilizando medios "psicográficos" cuestionables.
Una mejor pregunta sería: ¿confía en este [producto basado en IA] para lograr el objetivo X?
2. ¿Cómo podemos [la empresa de tecnología] aumentar la confianza en la IA?
La gente de los departamentos de marketing y ventas estará clamando por descubrir cómo controlar, influir o manipular al consumidor para que la confianza en el producto X de IA y, a su vez, aumente la probabilidad de adopción. En este sentido, se necesita una demarcación clara y un cambio de enfoque: la confianza y la honradez son conceptos fundamentalmente diferentes. La confianza de los consumidores es una forma de pensar, mientras que la confiabilidad es una propiedad de los productos, procesos o una empresa. Las pautas para trabajar en estos aspectos están apareciendo en masa. Está claro que la confianza no se puede comprar; debe ganarse demostrando que es digno de confianza.
Una mejor pregunta sería: ¿cómo podemos ser dignos de confianza?
3. ¿Debemos [la empresa] confiar en la IA?
Nunca, como diría J. Bryson. Los programas basados en IA no se tratan de confianza. El software debe ser confiable, es decir, construido de tal manera que sus desarrolladores puedan ser responsables. Esto significa que necesitamos saber y verificar de qué es capaz un sistema en particular y qué no. La confianza es irrelevante, como lo es con la contabilidad. Desde una perspectiva ética, la pregunta definitivamente está fuera de lugar.
Una mejor pregunta sería: ¿cómo podemos comprender mejor la IA?
https://digital-commerce.post.ch/en/pages/blog/2020/trust-in-artificial-intelligence
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario