EL ELEVADO COSTE DE LA CAPTURA

https://interactions.acm.org/archive/view/november-december-2021/the-steep-cost-of-capture

Este es un momento peligroso. Los sistemas informáticos privados comercializados como inteligencia artificial (IA) se están introduciendo en nuestra vida e instituciones públicas, concentrando el poder industrial, agravando la marginación y configurando silenciosamente el acceso a los recursos y la información.

ins01.gif

A la hora de considerar cómo hacer frente a este ataque de la IA industrial, debemos reconocer en primer lugar que los "avances" de la IA celebrados en la última década no se debieron a avances científicos fundamentales en las técnicas de IA. Fueron y son principalmente el producto de una concentración significativa de datos y recursos de computación que residen en las manos de unas pocas grandes corporaciones tecnológicas. La IA moderna depende fundamentalmente de los recursos y las prácticas comerciales de las empresas, y nuestra creciente dependencia de dicha IA cede un poder desmesurado sobre nuestras vidas e instituciones a un puñado de empresas tecnológicas. También da a estas empresas una influencia significativa tanto en la dirección del desarrollo de la IA como en las instituciones académicas que desean investigarla. Esto significa que las empresas tecnológicas están sorprendentemente bien posicionadas para dar forma a lo que sabemos -y a lo que no sabemos- sobre la IA y el negocio que hay detrás, al mismo tiempo que sus productos de IA están trabajando para dar forma a nuestras vidas e instituciones.

volver al principio Perspectivas

→ El control de las grandes tecnológicas sobre los recursos de la IA hizo que las universidades y otras instituciones dependieran de estas empresas, creando una red de relaciones conflictivas que amenazan la libertad académica y nuestra capacidad para entender y regular estas tecnologías corporativas.

→ Para garantizar una investigación independiente y rigurosa y una defensa capaz de entender y comprobar estas tecnologías, y las empresas que están detrás de ellas, necesitamos organizarnos, dentro de la tecnología y dentro de la universidad.

Al examinar la historia de la influencia del ejército estadounidense sobre la investigación científica durante la Guerra Fría, vemos paralelismos con la influencia actual de la industria tecnológica sobre la IA. Esta historia también ofrece ejemplos alarmantes de la forma en que el dominio militar de EE.UU. trabajó para dar forma a la producción de conocimiento académico, y para castigar a los que disentían.

Hoy en día, la industria tecnológica se enfrenta a una presión reguladora cada vez mayor, y está aumentando sus esfuerzos para crear narrativas positivas para la tecnología y para silenciar y marginar a los críticos de la misma manera que el ejército de EE.UU. y sus aliados lo hicieron en el pasado. En conjunto, vemos que el dominio de la industria tecnológica en la investigación y la producción de conocimientos sobre la IA coloca a los investigadores y defensores críticos dentro y fuera del ámbito académico en una posición traicionera. Esto amenaza con privar a las comunidades de primera línea, a los responsables políticos y al público de conocimientos vitales sobre los costes y las consecuencias de la IA y la industria responsable de ella, justo en el momento en que este trabajo es más necesario.

Al revisar el alcance de la influencia actual de las grandes empresas tecnológicas sobre la IA y la investigación en IA, es útil comenzar con una breve historia del actual giro hacia la IA. Dado que el campo de la IA tiene casi 70 años y ha pasado por varios "inviernos de la IA", ¿por qué la IA se hizo grande en la última década? ¿Y de qué hablamos cuando hablamos de IA? La respuesta a estas preguntas pone de manifiesto la mutabilidad del término IA. También centra nuestra atención en la centralidad de los recursos corporativos concentrados en el actual auge de la IA, y en cómo el control monopolístico de estos recursos dio a un puñado de empresas tecnológicas la autoridad para (re)definir el campo de la IA, al tiempo que encerraba el conocimiento sobre los sistemas de IA tras el secreto corporativo.

Las empresas tecnológicas están sorprendentemente bien posicionadas para dar forma a lo que sabemos -y lo que no sabemos- sobre la IA y el negocio que hay detrás, al mismo tiempo que sus productos de IA están trabajando para dar forma a nuestras vidas e instituciones.

En 2012, un equipo de investigación con sede en Toronto creó un algoritmo llamado AlexNet que ganó el reto de reconocimiento visual a gran escala de ImageNet. Esto marcó un momento clave en la historia reciente de la IA y fue un gran acontecimiento en la industria tecnológica. Demostró que el aprendizaje automático supervisado era sorprendentemente eficaz en el reconocimiento predictivo de patrones cuando se entrenaba utilizando una potencia computacional significativa y cantidades masivas de datos etiquetados [1]. El algoritmo AlexNet se basaba en técnicas de aprendizaje automático que tenían casi dos décadas de antigüedad. Pero no fue el algoritmo lo que supuso un gran avance: fue lo que el algoritmo podía hacer cuando se combinaba con datos a gran escala y recursos computacionales.

AlexNet trazó un camino a seguir para las grandes empresas tecnológicas que buscan cimentar y ampliar su poder. Los recursos de los que dependía el éxito de AlexNet eran los que las grandes empresas tecnológicas ya controlaban: una vasta infraestructura computacional, cantidades masivas de datos (y sistemas para procesarlos y almacenarlos), un alcance arraigado en el mercado que garantizaba la recopilación persistente de datos, y el capital para contratar y retener el escaso talento. Yoshua Bengio, uno de los precursores de la investigación en IA, lo expresó de forma sencilla: "La potencia [informática], la experiencia y los datos están concentrados en manos de unas pocas empresas" [2].

El año 2012 mostró el potencial comercial del aprendizaje automático supervisado, y el poder del término IA como 

*** Translated with www.DeepL.com/Translator (free version) ***