Basta de hablar de ética de la IA. Es hora de hablar de poder.

https://www.technologyreview.com/2021/04/23/1023549/kate-crawford-atlas-of-ai-review/

A principios del siglo XX, un caballo alemán tomó Europa por asalto. El inteligente Hans, como se le conocía, aparentemente podía realizar todo tipo de trucos antes limitados a los humanos. Podía sumar y restar números, decir la hora y leer un calendario, incluso deletrear palabras y oraciones, todo marcando la respuesta con un casco. "A" fue un toque; "B" era dos; 2 + 3 eran cinco. Fue una sensación internacional, y muchos creían que era una prueba de que a los animales se les podía enseñar a razonar tan bien como a los humanos.

El problema era que Hans Clever realmente no estaba haciendo ninguna de estas cosas. Como descubrieron más tarde los investigadores, el caballo había aprendido a dar la respuesta correcta al observar cambios en la postura, la respiración y las expresiones faciales de sus interrogadores. Si el interrogador se quedaba demasiado lejos, Hans perdería sus habilidades. Su inteligencia fue solo una ilusión.

Esta historia se utiliza como advertencia para los investigadores de IA al evaluar las capacidades de sus algoritmos. Un sistema no siempre es tan inteligente como parece. Tenga cuidado de medirlo correctamente.

CORTESÍA DE KATE CRAWFORD

Pero en su nuevo libro, Atlas of AI, la destacada académica en inteligencia artificial Kate Crawford le da la vuelta a esta moraleja. El problema, escribe, estaba en la forma en que la gente definía los logros de Hans: "Hans ya estaba realizando notables hazañas de comunicación entre especies, actuación pública y considerable paciencia, pero no se reconocieron como inteligencia".

Así comienza la exploración de Crawford sobre la historia de la inteligencia artificial y su impacto en nuestro mundo físico. Cada capítulo busca ampliar nuestra comprensión de la tecnología al revelar cuán estrechamente la hemos visto y definido.

Crawford hace esto al llevarnos en un viaje global, desde las minas donde se extraen los elementos de tierras raras utilizados en la fabricación de computadoras hasta los centros logísticos de Amazon donde los cuerpos humanos se han mecanizado en la búsqueda incesante de crecimiento y ganancias de la empresa. En el capítulo uno, relata cómo conducía una camioneta desde el corazón de Silicon Valley hasta una pequeña comunidad minera en Clayton Valley, Nevada. Allí investiga las prácticas ambientales destructivas necesarias para obtener el litio que alimenta las computadoras del mundo. Es una ilustración contundente de lo cerca que están estos dos lugares en el espacio físico y de lo mucho que se encuentran en cuanto a riqueza.