Lo que los futuristas de la tecnología se equivocan sobre la autonomía humana

https://www.noemamag.com/ai-blockchain-human-autonomy-future/

Un espectro recorre nuestros imaginarios tecnológicos: el espectro de la autonomía. El problema es que no sabemos muy bien de qué ni para quién. 

Dos movimientos con aspiraciones transformadoras dominan hoy el mundo de la tecnología: el primero en torno al blockchain y el segundo en torno a la IA. Están animados por dos conceptos de autonomía muy diferentes. La IA promete inaugurar una era de paz y abundancia para la humanidad que nos libere de la carga del trabajo y la necesidad, siempre que juguemos bien nuestras cartas para evitar el riesgo de una catástrofe existencial. Mientras tanto, blockchain proporciona la infraestructura para, según nos dicen, el ejercicio sin precedentes de la agencia individual y colectiva, abriendo las puertas a la automatización, el autogobierno y la coordinación global.

Al principio, estos conceptos pueden parecer contradictorios. La visión del mundo de la IA premia la autonomía de los resultados con una mínima participación activa en la toma de decisiones, mientras que su contraparte criptográfica desea una autonomía del proceso, con resultados supeditados a la voluntad individual y a la participación en el diseño de las infraestructuras tecnológicas. Mientras que la comunidad de la cadena de bloques sostiene que la descentralización es un valor normativo fundamental, la IA a menudo empuja hacia la centralización como algo necesario para la escala y la seguridad. 

Pero por mucho que difieran, ambas comparten un deseo subyacente: abstraer implícita o explícitamente la falibilidad humana al servicio de una visión totalmente automatizada de la perfección. En este sentido, corren el riesgo de caer en la creencia errónea de que la automatización puede alcanzar una autonomía significativa. 

En una época de extinción masiva y catástrofe climática provocada por el ser humano, el sueño de un poder superior tecnológico que nos salve de nosotros mismos es tentador. En una época de fracasos de coordinación y corrupción en los niveles más altos, la aspiración a una coordinación descentralizada entre individuos empoderados también lo es. La combinación de estas visiones colectivas del progreso tecnológico y científico pinta una visión seductora de la libertad, tanto de las limitaciones del ser humano natural como de las limitaciones de la sociedad humana emergente.

Sin embargo, el objetivo de trascender lo que nos hace humanos no es el camino para servir a la humanidad.

La autonomía está necesariamente circunscrita por la comunidad y la sociedad. La independencia significativa sólo existe a través de la interdependencia, algo que es imposible en los mundos que estas visiones tecnológicas imaginan. 

Libertad de la necesidad

La aspiración a la autonomía tanto individual como colectiva ha impulsado a los pensadores políticos y a los sistemas políticos durante siglos. Los filósofos de todo el espectro político occidental pregonan la autonomía individual. Es un valor central de la democracia liberal, un principio fundamental de la filosofía moral kantiana, un principio fundacional del utilitarismo de Mill y el núcleo del concepto de "espíritu libre" de Nietzsche. 

La autonomía también ha sido un grito de guerra de los movimientos sociales de todo el mundo, sobre todo de los movimientos indígenas y anticoloniales, que defienden desde la soberanía nacional hasta la recuperación de tierras. El respeto a las distintas manifestaciones de la autonomía -la autonomía corporal, la autonomía en la toma de decisiones, la autonomía a través de la intimidad- está consagrado en la ley de diversas maneras. Sin embargo, el vínculo entre la autonomía individual y el bien colectivo siempre ha sido pernicioso, y en ninguna parte más que en las visiones de la tecnología que prometen darnos ambas cosas en una medida sin precedentes. 

En el mundo que imaginan los defensores de la IA, las máquinas desarrollan su autonomía, es decir, se autogobiernan, se autodefinen, aprenden y se autodirigen. En este mundo, construiremos inteligencias artificiales que se aproximen y luego superen la inteligencia humana, conocidas como inteligencia general artificial o AGI. Con el tiempo, serán capaces de mejorarse a sí mismas de forma independiente hasta el punto de que se produzca un despegue exponencial de la capacidad inteligente de las máquinas. 

*** Translated with www.DeepL.com/Translator (free version) ***