Lo que perdemos los humanos cuando dejamos que la IA decida

https://sloanreview.mit.edu/article/what-humans-lose-when-we-let-ai-decide/

Han pasado más de 50 años desde que HAL, el malévolo ordenador de la película 2001: Una odisea del espacio, aterrorizó por primera vez al público al volverse contra los astronautas a los que debía proteger. Ese momento cinematográfico capta lo que muchos de nosotros todavía tememos de la IA: que adquiera poderes sobrehumanos y nos subyugue. Pero en lugar de preocuparnos por las pesadillas de la ciencia ficción futurista, deberíamos despertar a un escenario igualmente alarmante que se está desarrollando ante nuestros ojos: Cada vez más, sin sospecharlo pero de forma voluntaria, estamos renunciando a nuestro poder de tomar decisiones basadas en nuestro propio juicio, incluidas nuestras convicciones morales. Lo que creemos que es "correcto" corre el riesgo de dejar de ser una cuestión de ética para convertirse simplemente en el resultado "correcto" de un cálculo matemático.

En el día a día, los ordenadores ya toman muchas decisiones por nosotros y, en apariencia, parecen hacer un buen trabajo. En los negocios, los sistemas de IA ejecutan transacciones financieras y ayudan a los departamentos de recursos humanos a evaluar a los solicitantes de empleo. En nuestra vida privada, confiamos en las recomendaciones personalizadas cuando compramos en línea, controlamos nuestra salud física con dispositivos portátiles y vivimos en hogares equipados con tecnologías "inteligentes" que controlan nuestra iluminación, climatización, sistemas de entretenimiento y electrodomésticos.