Si la IA predice tu futuro, ¿sigues siendo libre?

https://www.wired.com/story/algorithmic-prophecies-undermine-free-will/

MIENTRAS LEES estas palabras, es probable que haya docenas de algoritmos haciendo predicciones sobre ti. Probablemente fue un algoritmo el que determinó que estarías expuesto a este artículo porque predijo que lo leerías. Las predicciones algorítmicas pueden determinar si consigues un préstamo o un trabajo o un apartamento o un seguro, y mucho más.

Estos análisis predictivos están conquistando cada vez más esferas de la vida. Y, sin embargo, nadie te ha pedido permiso para hacer esas predicciones. Ningún organismo gubernamental las supervisa. Nadie le informa sobre las profecías que determinan su destino. Peor aún, una búsqueda en la literatura académica sobre la ética de la predicción muestra que es un campo de conocimiento poco explorado. Como sociedad, no hemos reflexionado sobre las implicaciones éticas de hacer predicciones sobre personas-seres que se supone están dotadas de agencia y libre albedrío.

Desafiar las probabilidades está en el corazón de lo que significa ser humano. Nuestros mayores héroes son aquellos que desafiaron las probabilidades: Abraham Lincoln, Mahatma Gandhi, Marie Curie, Hellen Keller, Rosa Parks, Nelson Mandela y otros. Todos ellos triunfaron más allá de las expectativas. Todos los profesores conocen a niños que han logrado más de lo que les tocó en sus cartas. Además de mejorar la base de todos, queremos una sociedad que permita y estimule acciones que desafíen las probabilidades. Sin embargo, cuanto más utilicemos la IA para clasificar a las personas, predecir su futuro y tratarlas en consecuencia, más reduciremos la capacidad de acción humana, lo que a su vez nos expondrá a riesgos desconocidos.

LOS SERES HUMANOS han utilizado la predicción desde antes del Oráculo de Delfos. Las guerras se libraban sobre la base de esas predicciones. En décadas más recientes, la predicción se ha utilizado para informar sobre prácticas como la fijación de las primas de los seguros. Esas predicciones solían referirse a grandes grupos de personas: por ejemplo, cuántas personas de entre 100.000 chocarán sus coches. Algunos de esos individuos serían más cuidadosos y afortunados que otros, pero las primas eran más o menos homogéneas (excepto en categorías amplias como los grupos de edad) bajo el supuesto de que la agrupación de riesgos permite compensar los costes más altos de los menos cuidadosos y afortunados con los costes relativamente más bajos de los cuidadosos y afortunados. Cuanto mayor es el grupo, más predecibles y estables son las primas.

*** Translated with www.DeepL.com/Translator (free version) ***