El aprendizaje profundo no es de fiar

https://spectrum.ieee.org/deep-learning-cant-be-trusted

Durante los últimos 20 años, el aprendizaje profundo ha llegado a dominar la investigación y las aplicaciones de la inteligencia artificial gracias a una serie de útiles aplicaciones comerciales. Pero bajo el deslumbramiento hay algunos problemas de fondo que amenazan el ascenso de la tecnología.

La incapacidad de un programa típico de aprendizaje profundo para rendir bien en más de una tarea, por ejemplo, limita gravemente la aplicación de la tecnología a tareas específicas en entornos rígidamente controlados. Y lo que es más grave, se ha afirmado que el aprendizaje profundo no es digno de confianza porque no es explicable, y no es adecuado para algunas aplicaciones porque puede experimentar olvidos catastróficos. Dicho más claramente, si el algoritmo funciona, puede ser imposible entender completamente por qué. Y mientras la herramienta está aprendiendo lentamente una nueva base de datos, una parte arbitraria de sus recuerdos aprendidos puede colapsar de repente. Por lo tanto, podría ser arriesgado utilizar el aprendizaje profundo en cualquier aplicación de vida o muerte, como una médica.

Ahora, en un nuevo libro, Stephen Grossberg, miembro del IEEE, sostiene que es necesario un enfoque totalmente diferente. Conscious Mind, Resonant Brain: How Each Brain Makes a Mind (Mente consciente, cerebro resonante: cómo cada cerebro crea una mente) describe un modelo alternativo tanto para la inteligencia biológica como para la artificial, basado en la investigación cognitiva y neuronal que Grossberg ha llevado a cabo durante décadas. Llama a su modelo Teoría de la Resonancia Adaptativa (ART).

Grossberg -profesor de sistemas cognitivos y neuronales, y de matemáticas y estadística, ciencias psicológicas y del cerebro e ingeniería biomédica en la Universidad de Boston- basa la ART en sus teorías sobre cómo procesa la información el cerebro.

"Nuestros cerebros aprenden a reconocer y predecir objetos y eventos en un mundo cambiante y lleno de acontecimientos inesperados", afirma.

Basándose en esa dinámica, ART utiliza métodos de aprendizaje supervisado y no supervisado para resolver problemas como el reconocimiento y la predicción de patrones. Los algoritmos que utilizan esta teoría se han incluido en aplicaciones a gran escala como la clasificación de señales de sonar y radar, la detección de la apnea del sueño, la recomendación de películas y el software de asistencia al conductor basado en la visión por ordenador.

El ART puede utilizarse con confianza porque es explicable y no experimenta olvidos catastróficos, afirma Grossberg. Añade que el ART resuelve lo que él ha llamado el dilema estabilidad-plasticidad: cómo un cerebro u otro sistema de aprendizaje puede aprender de forma autónoma y rápida (plasticidad) sin experimentar un olvido catastrófico (estabilidad).

Ilustración de un cerebro sobre un patrón de cuadros azules y rojos.  

Grossberg, que formuló el ART en 1976, es un pionero en la modelización de cómo los cerebros se vuelven inteligentes. Es el fundador y director del Centro de Sistemas Adaptativos de la Universidad de Boston y el director fundador del Centro de Excelencia para el Aprendizaje en Educación, Ciencia y Tecnología. Ambos centros han tratado de entender cómo se adapta y aprende el cerebro, y de desarrollar aplicaciones tecnológicas basadas en sus descubrimientos.

Por las "contribuciones de Grossberg a la comprensión de la cognición y el comportamiento del cerebro, y su emulación por la tecnología", recibió el premio IEEE Frank Rosenblatt 2017, que lleva el nombre del profesor de Cornell considerado por algunos como el "padre del aprendizaje profundo."

Grossberg intenta explicar en su libro de casi 800 páginas cómo "el pequeño bulto de carne que llamamos cerebro" da lugar a pensamientos, sentimientos, esperanzas, sensaciones y planes. En concreto, describe modelos neuronales biológicos que intentan explicar cómo sucede. El libro también aborda las causas subyacentes de enfermedades como el Alzheimer, el autismo, la amnesia y el trastorno de estrés postraumático.

"Entender cómo los cerebros dan lugar a las mentes también es importante para diseñar sistemas inteligentes en informática, ingeniería y tecnología, incluyendo la IA y los robots inteligentes", escribe. "Muchas empresas han aplicado algoritmos de inspiración biológica del tipo que resume este libro en múltiples aplicaciones de ingeniería y tecnología".

Las teorías del libro, dice, no sólo son útiles para entender el cerebro, sino que también pueden aplicarse al diseño de sistemas inteligentes capaces de adaptarse de forma autónoma a un mundo cambiante. En conjunto, el libro describe el proceso fundamental que permite a las personas ser inteligentes, autónomas y versátiles.

LA BELLEZA DEL ARTE

Grossberg escribe que el cerebro evolucionó para adaptarse a nuevos retos. Hay un conjunto de mecanismos cerebrales comunes que controlan cómo los humanos retienen la información sin olvidar lo que ya han aprendido, dice.

"Retenemos recuerdos estables de experiencias pasadas, y estas secuencias de eventos se almacenan en nuestras memorias de trabajo para ayudar a predecir nuestros comportamientos futuros", dice. "Los seres humanos tienen la capacidad de seguir aprendiendo a lo largo de su vida, sin que los nuevos aprendizajes borren los recuerdos de la información importante que hemos aprendido antes".

*** Translated with www.DeepL.com/Translator (free version) ***