La tecnología no puede arreglar la injusticia algorítmica
Gran parte del debate público reciente sobre la inteligencia artificial ha sido impulsado por visiones apocalípticas del futuro. La humanidad, se nos dice, está comprometida en una lucha existencial contra su propia creación. Estas preocupaciones son alimentadas en gran parte por los líderes de la industria tecnológica y los futuristas, que anticipan sistemas tan sofisticados que pueden realizar tareas generales y operar de forma autónoma, sin control humano. Stephen Hawking, Elon Musk y Bill Gates han expresado públicamente sus preocupaciones sobre el advenimiento de este tipo de IA “fuerte” (o “general”) y el riesgo existencial asociado que puede representar para la humanidad. En palabras de Hawking, el desarrollo de una IA fuerte "podría significar el fin de la raza humana".
Estas son preocupaciones legítimas a largo plazo. Pero no son de lo único que tenemos que preocuparnos, y colocarlos en el centro del escenario distrae la atención de las cuestiones éticas que la IA plantea aquí y ahora. Algunos sostienen que una IA fuerte puede estar a solo décadas de distancia, pero este enfoque oscurece la realidad de que la IA “débil” (o “estrecha”) ya está remodelando las instituciones sociales y políticas existentes. Los sistemas algorítmicos de toma de decisiones y apoyo a las decisiones se están implementando actualmente en muchos dominios de alto riesgo, desde la justicia penal, la aplicación de la ley y las decisiones laborales hasta la calificación crediticia, los mecanismos de asignación de escuelas, la atención médica y las evaluaciones de elegibilidad de beneficios públicos. No importa el lejano espectro del fin del mundo; La IA ya está aquí, trabajando entre bastidores en muchos de nuestros sistemas sociales.
Lo primero que debemos hacer es analizar detenidamente los argumentos que sustentan el uso actual de la IA.
Algunos son optimistas de que los sistemas de inteligencia artificial débiles pueden contribuir positivamente a la justicia social. A diferencia de los humanos, continúa el argumento, los algoritmos pueden evitar la toma de decisiones sesgada, logrando así un nivel de neutralidad y objetividad que no es humanamente posible. Una gran cantidad de trabajos recientes han criticado esta presunción, incluidos los algoritmos de opresión de Safiya Noble (2018), Race After Technology de Ruha Benjamin (2019), la falta de inteligencia artificial de Meredith Broussard (2018), Hello World de Hannah Fry (2018), y Automating Inequality de Virginia Eubanks. (2018), Técnicamente incorrecto de Sara Wachter-Boettcher (2017) y Armas de destrucción matemática de Cathy O'Neil (2016). Como enfatizan estos autores, existe una gran cantidad de evidencia empírica que muestra que el uso de sistemas de inteligencia artificial a menudo puede replicar condiciones históricas y contemporáneas de injusticia, en lugar de aliviarlas.
Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).
Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.
Comentarios
Publicar un comentario