IA Crítica 2.0

https://lareviewofbooks.org/article/ai-critique-2-0/

PATRÓN Y PREDICCIÓN podrían considerarse las palabras clave del joven siglo XXI. Encontrar patrones automáticamente, en el "océano" de datos del que tanto oímos hablar hoy en día, recae cada vez más en algoritmos de vanguardia llamados "redes neuronales", que "aprenden" patrones en datos de consumo, datos de tráfico, datos de imágenes. Sea lo que sea lo que esté haciendo ahora mismo, probablemente no esté más que a un paso de una red, que ha determinado el contenido que está viendo, la ruta que está tomando, el tamaño de la caja que le han entregado, el conductor concreto que le ha recogido en el aeropuerto. Las redes se han extendido por todo el mundo en la última década, reconociendo nuestros rostros, detectando tumores en las radiografías y personalizando nuestros anuncios. La IA se ha extendido por el mundo, donde antes estaba aislada en sistemas matemáticos y computacionales heurísticos.

La primera de estas redes que ha tenido éxito ante el público ha aprendido a ver gatos a partir de millones de imágenes recogidas de una Internet repleta de gatos y etiquetadas por trabajadores del Turco Mecánico de Amazon. La técnica se denomina "aprendizaje profundo" porque toma los datos de entrada y los hace pasar por muchas "capas" de "neuronas", produciendo intencionadamente un resultado aleatorio -y, por tanto, inicialmente falso- y enviando luego la señal de vuelta al principio para su corrección, a lo largo de cientos o miles de iteraciones. Sin embargo, el acto de vodevil se vuelve menos divertido cuando su objeto es el trabajo o la identidad. Como dice Kate Crawford en su reciente libro, Atlas of AI, las fotos policiales y otros datos de la policía son el "urtext del enfoque actual para hacer IA". Justin Joque, en su próximo libro Revolutionary Mathematics, llama a las estadísticas en las que se basan estos métodos "las matemáticas de la ortodoxia capitalista". Los sistemas de IA nos atrapan en una especie de solipsismo colectivo, tomando nuestros propios juicios y acciones y rodeándonos de versiones cuantitativamente deformadas de ellos, presentándonos el mundo a través de una extraña lente a la vez adaptada a nosotros "personalmente" y completamente ajena.