Un chatbot de Corea del Sur muestra cuán descuidadas pueden ser las empresas tecnológicas con los datos de los usuarios

https://slate.com/technology/2021/04/scatterlab-lee-luda-chatbot-kakaotalk-ai-privacy.html

"Estoy cautivado por una sensación de miedo que nunca había experimentado en toda mi vida ...", escribió un usuario llamado Heehit en una revisión de Google Play de una aplicación llamada Science of Love. Esta revisión se escribió justo después de que las organizaciones de noticias acusaran a la empresa matriz de la aplicación, ScatterLab, de recopilar conversaciones íntimas entre amantes sin informar a los usuarios y luego usar los datos para construir una IA conversacional. chatbot llamado Lee-Luda.

La mayoría de los estadounidenses no confía en cómo se comportarán las empresas en lo que respecta al uso y la protección de los datos personales. Pero puede ser difícil imaginar los daños potenciales, exactamente cómo una empresa que hace un mal uso o compromete los datos puede afectarnos a nosotros ya nuestras vidas. Un incidente reciente de uso indebido de datos personales en Corea del Sur nos brinda una imagen clara de lo que puede salir mal y cómo los consumidores pueden defenderse.

ANUNCIO PUBLICITARIO

A.I. de Corea del Sur La empresa ScatterLab lanzó Science of Love en 2016 y la promovió como una aplicación “científica y basada en datos” que predice el grado de afecto en las relaciones. Uno de los servicios más populares de la aplicación fue utilizar el aprendizaje automático para determinar si le gustas a alguien mediante el análisis de las conversaciones de mensajería de KakaoTalk, la aplicación de mensajería número uno de Corea del Sur, que utiliza alrededor del 90 por ciento de la población. Los usuarios pagaron alrededor de $ 4.50 por análisis. Los usuarios de Science of Love descargarían sus registros de conversaciones utilizando la función de respaldo de KakaoTalk y los enviarían para su análisis. Luego, la aplicación revisó las conversaciones de mensajería y proporcionó un informe sobre si la contraparte tenía sentimientos románticos hacia el usuario en función de estadísticas como el tiempo de respuesta promedio, la cantidad de veces que cada persona envía un mensaje de texto primero y los tipos de frases y emojis utilizados. . Para junio de 2020, Science of Love había recibido alrededor de 2,5 millones de descargas en Corea del Sur y 5 millones en Japón y se estaba preparando para expandir su negocio a Estados Unidos. “Como sentí que la aplicación me entendía, me sentí seguro y comprensivo. Me sentí bien porque me sentí como tener un médico del amor a mi lado ”, escribió un usuario llamado Mung Yeoreum en una revisión de Google Play de la aplicación.

El 23 de diciembre de 2020, ScatterLab presentó un A.I. servicio de chatbot llamado Lee-Luda, promocionándolo para ser entrenado en más de 10 mil millones de registros de conversación de Science of Love. El público objetivo de este servicio de chatbot eran adolescentes y adultos jóvenes. Diseñado como una mujer de 20 años que quiere convertirse en un verdadero amigo para todos, el chatbot Lee-Luda ganó popularidad rápidamente y mantuvo conversaciones con más de 750.000 usuarios en sus primeras semanas. El director ejecutivo declaró que el objetivo de la empresa era crear "un A.I. chatbot que la gente prefiere como compañero de conversación sobre una persona ".

La capacidad de los chatbots modernos para, bueno, chatear se basa en gran medida en el aprendizaje automático y los modelos de aprendizaje profundo (que en conjunto se pueden llamar IA) para comprender mejor el lenguaje humano y generar respuestas similares a las humanas. Si la gente disfrutó hablando con Lee-Luda, fue porque fue entrenado en un gran conjunto de datos de conversaciones humanas.