¿Ha encontrado la IA una nueva fundación?

https://thegradient.pub/has-ai-found-a-new-foundation/

I

n agosto, 32 profesores y 117 investigadores, postdoctorales y estudiantes de la Universidad de Stanford, que durante mucho tiempo ha sido uno de los principales actores de la IA, declararon que se había producido un "cambio de paradigma radical en la IA". Acuñaron un nuevo término, "modelos de fundación", para caracterizar el nuevo paradigma, unieron sus fuerzas en un "Centro de Investigación sobre Modelos de Fundación" y publicaron el enorme informe de 212 páginas "Sobre las oportunidades y los riesgos de los modelos de fundación".

Aunque el término es nuevo, el enfoque general no lo es. Se entrena una gran red neuronal (como la conocida GPT-3) con una enorme cantidad de datos, y luego se adapta ("afina") el modelo a un montón de tareas más específicas (en palabras del informe, "un modelo básico... [así] sirve como [parte de] la base común a partir de la cual se construyen muchos modelos de tareas específicas mediante la adaptación"). El modelo básico sirve así como "base" (de ahí el término) de las IA que realizan tareas más específicas. El enfoque comenzó a cobrar impulso en 2018, cuando Google desarrolló el modelo de procesamiento del lenguaje natural llamado BERT, y se hizo aún más popular con la introducción el año pasado del GPT-3 de OpenAI.

Figura 1 Estructura de un modelo de fundación. Del informe en cuestión.

La comunidad de la IA en general ha reaccionado de forma muy variada al anuncio de Stanford y algunos científicos destacados han manifestado su escepticismo u oposición. En el Taller sobre Modelos Fundamentales, Jitendra Malik, un reputado experto en visión por ordenador de Berkeley, dijo: "Voy a adoptar un ... papel fuertemente crítico, cuando hablamos de ellos como fundamento de la IA ... Estos modelos son castillos en el aire. No tienen ningún fundamento". Judea Pearl, que ganó el premio Turing por su trabajo seminal sobre la incorporación de la probabilidad y el razonamiento causal en la IA, tuiteó la cáustica pregunta: "¿Cuál es el principio científico por el que los "modelos de fundación" pueden eludir las limitaciones teóricas de los métodos centrados en los datos tal y como los conocemos?"

§

Una fundación, en su sentido habitual, es el cimiento sobre el que se construye algo complejo. Las aplicaciones de software, por ejemplo, se construyen sobre una base de hardware, arquitectura informática y un sistema operativo. Los programadores pueden esperar formas de almacenar y recuperar archivos, recibir entradas, proporcionar salidas, etc., con una fiabilidad esencialmente perfecta. Es posible construir un procesador de textos o un videojuego o un navegador web sólo porque hay ciertos requisitos previos que se encuentran debajo de forma fiable.

Una base para la IA debería proporcionar algo similar. Por ejemplo, debería ser capaz de absorber nueva información y utilizarla de forma fiable. Debe ser capaz de razonar de forma fiable desde el punto A al punto B. Si interactúa con humanos, debe ser capaz de interpretar las comunicaciones humanas. Si se le da un texto, debe ser capaz de extraer su significado y juzgar su validez. Si ve un vídeo, debe ser capaz de explicar lo que ocurre.

En 

*** Translated with www.DeepL.com/Translator (free version) ***