Choice arremete contra Airbnb por usar un "algoritmo secreto" que juzga si los usuarios son "confiables"

https://thenewdaily.com.au/news/2022/03/22/choice-airbnb-trust-algorithm/

Airbnb podría estar utilizando la toma de decisiones automatizada para expulsar a los usuarios de la plataforma de alquileres a corto plazo, basándose en factores como las redes sociales, el historial laboral y la dirección IP.

El grupo de defensa del consumidor Choice denunció a Airbnb en un informe que cuestiona la falta de transparencia en torno al uso de un "algoritmo secreto" que juzga si los usuarios son "dignos de confianza".

Según Choice, Airbnb compró la startup de verificación de antecedentes Trooly en 2017.

Desde entonces, habría actualizado la patente varias veces, lo que sugiere que está en uso. 

En cuanto a la letra pequeña, Airbnb "puede llevar a cabo la elaboración de perfiles" utilizando sus interacciones con la plataforma, así como la información obtenida por terceros. 

Su política de privacidad dice que los procesos automatizados, que analizan las actividades de los usuarios dentro y fuera de Airbnb, podrían restringir o suspender el acceso a la plataforma. 

"A Choice le preocupa que las empresas estén implementando la toma de decisiones automatizada de forma generalizada sin informar a los consumidores de los riesgos, ni ofrecerles vías para excluirse o la oportunidad de revisar las decisiones", dijo Kate Bower, defensora de los datos de los consumidores en Choice.

Se puede confiar en los "fiables"?

En general, el Dr. Marc Cheong, profesor titular de sistemas de información (ética digital) de la Universidad de Melbourne, dijo que esta toma de decisiones automatizada plantea dos problemas.

"El principal es que los afectados por este algoritmo no tienen la oportunidad de apelar o recurrir las acciones tomadas por la IA", dijo el Dr. Cheong a The New Daily.