IA y manipulación: las cuestiones éticas

https://www.rathenau.nl/en/digital-governance/ai-and-manipulation-ethical-questions

IA y manipulación: las cuestiones éticas¿Qué es la manipulación?

Para poder debatir con conocimiento de causa sobre la IA manipuladora, primero tenemos que aclarar lo que supone la manipulación en sí misma. La manipulación es un término común en el lenguaje cotidiano, pero los filósofos tienen múltiples definiciones para ella.

El filósofo dr. Michael Klenk, que trabaja en la Universidad Técnica de Delft, describe la manipulación de la siguiente manera: La manipulación es un tipo de influencia. Hay que distinguirla de la persuasión racional y la coacción. Se sitúa en un punto intermedio. La coerción elimina por completo la libertad de elección, la manipulación quizás la reduce un poco".

El propio Klenk define la manipulación como "influencia negligente". Las buenas formas de influencia van acompañadas de un cierto cuidado por los motivos de la otra persona. La manipulación es negligente en el sentido de que se define por la ausencia de ese cuidado. La parte que manipula quiere conseguir un determinado resultado, y eso es lo único que importa".

El Dr. Tjerk Timan, que está familiarizado con la política y la ética de la IA a través de su trabajo como analista de políticas en TNO, en los Países Bajos, describe la manipulación como una especie de estrategia: "La parte manipuladora sabe algo que la otra no sabe y se aprovecha de ello". En otras palabras, existe una asimetría de conocimientos entre el manipulador y el manipulado. Tiene que ver con el subconsciente. La manipulación consiste en influir en las personas para que hagan algo con lo que no están del todo de acuerdo".

Cada una de estas definiciones se centra en diferentes aspectos de la manipulación. Klenk se centra en el papel de la parte manipuladora, que considera negligente en su influencia sobre otras personas. Timan también se centra en el papel de la persona que está siendo manipulada. La manipulación sólo puede ser una estrategia exitosa, según Timan, cuando hay una cierta asimetría de conocimiento o subconsciencia en juego en el lado del manipulado.

¿Qué hay de malo en la manipulación?

La manipulación no se considera necesariamente un problema cuando nos centramos en las consecuencias de la manipulación en el manipulado. También podemos manipular a las personas para beneficiarlas, estimulándolas a comer más sano, por ejemplo. En estos casos, la manipulación se denomina "nudging". Significa que a veces alguien sale beneficiado al ser manipulado.

Sin embargo, ya hemos aprendido que la manipulación también puede definirse desde la perspectiva de la persona que manipula, o, manipulador. En ese caso, lo que importa es el acto en sí o la intención que hay detrás. Quien cree que el acto de manipulación es indeseable como tal, lo rechazaría incluso cuando tiene consecuencias positivas. Klenk opta por este punto de vista: "Cuando se examina el acto de manipulación en sí, yo diría que la negligencia es siempre un fallo del manipulador".

¿En qué se diferencia la manipulación por parte de la IA de otras formas de manipulación?

Lo que diferencia la manipulación por IA de la manipulación tradicional es su eficacia. Gracias a los grandes datos, la IA puede influir en el comportamiento de un individuo de forma muy específica. Además, en línea se puede llegar a una audiencia mucho mayor que con, por ejemplo, una valla publicitaria junto a la autopista. Klenk llama a esto "factores de agregación".

La manipulación digital no es peor que otras formas de manipulación, según Klenk. No veo que haya una diferencia moral, que el acto sea peor per se. Pero puede ser que simplemente tenga más impacto en nuestras vidas y aumente la cantidad de manipulación en nuestras vidas. Esa es una cuestión empírica que habría que estudiar".

¿Cuáles son las cuestiones éticas de la IA manipuladora?

Si no hay ninguna diferencia moral entre la manipulación de la IA y otras formas de manipulación, ¿por qué entonces la gente está tan preocupada por ella? Timan explica que la IA manipuladora conlleva muchas cuestiones y problemas éticos nuevos. Por ejemplo, la IA manipuladora plantea cuestiones relativas a la protección de datos y a la cuestión de la escala y el alcance. Timan: "Cuando se utiliza la IA para manipular el comportamiento, incluso cuando se hace con la mejor de las intenciones, la pregunta sigue siendo: ¿está permitido utilizar los datos de las personas para manipularlas?".

Otra cuestión que menciona Timan es el riesgo de que se transmitan nuevos problemas a los usuarios, lo que a veces se denomina "responsabilización". Tomemos el ejemplo de los rastreadores de fitness. La IA es una herramienta útil para estimular a la gente a moverse más, pero puede llevar a una narrativa problemática: "es tu propio error que tengas mala salud, mira los datos"'.

*** Translated with www.DeepL.com/Translator (free version) ***