DE LA VIGILANCIA DE DATOS A LA DATAPULACIÓN. EL LADO OSCURO DE LAS TECNOLOGÍAS PERSUASIVAS DIRIGIDAS
Los servicios en línea, dispositivos o servicios secretos recopilan constantemente datos y metadatos de sus usuarios. Esta recopilación de datos se utiliza principalmente para orientar a los usuarios, personalizar sus servicios o monitorearlos. Esta vigilancia de los datos, a veces denominada vigilancia de datos, es omnipresente y genera mucha atención [1].
Sin embargo, hoy en día, los datos y las tecnologías no solo se usan para monitorear a las personas, también se usan para motivar, influir o dar forma a sus opiniones o decisiones en línea. La mejor comprensión de los comportamientos de los usuarios, combinada con la capacidad de crear perfiles psicológicos precisos, crea oportunidades para desarrollar técnicas para influir en los usuarios en línea, dando forma a su comportamiento. Estas tecnologías pueden fomentar normas positivas, como la lucha contra la propaganda terrorista o racista en línea, o pueden utilizarse para motivar a los usuarios a conducir de forma más segura o económica, a comer más sano o a hacer más ejercicio. En este caso, los psicólogos, diseñadores o economistas del comportamiento a menudo se refieren a ellas como “tecnologías persuasivas o elaboración de perfiles” [2].
Sin embargo, estas "tecnologías persuasivas" también tienen un lado oscuro. Pueden constituir armas informativas eficientes y específicas para engañar o manipular las opiniones o comportamientos de los usuarios de forma maliciosa, a través de noticias falsas, trastornos de la información, técnicas psicológicas o de manipulación de los medios [3]. Definimos, en el artículo, el concepto de Datapulation, manipulación por los datos. La recopilación de datos consiste en técnicas de manipulación personalizada "mediadas", basadas en información, creadas principalmente para cambiar las actitudes y comportamientos de los usuarios, con intenciones maliciosas o intenciones que van en contra de los propios intereses de los usuarios. La recopilación de datos puede ser utilizada por empresas comerciales para aumentar las ganancias [4] o por partidos políticos para influir en las elecciones [5].
Argumentamos que la recopilación de datos puede ser peligrosa para la privacidad, los derechos humanos y la democracia, y merece más atención por parte de los responsables políticos y los investigadores. El objetivo principal de este artículo es definir el concepto de recopilación de datos, formalizando cómo se pueden utilizar los datos para manipular nuestras decisiones. Creemos que este es un paso importante para abordarlo correctamente.
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario