La IA no puede ignorar la lógica simbólica, y ésta es la razón

https://medium.com/ontologik/ai-cannot-ignore-symbolic-logic-and-heres-why-1f896713525b

Generalización y representaciones de alto nivel

Yoshua Bengio, un destacado investigador de aprendizaje automático (ML) que también está considerado como uno de los padrinos del aprendizaje profundo (DL) ha sido citado recientemente diciendo

El aprendizaje profundo, tal y como es ahora, ha hecho grandes progresos en la percepción, pero aún no ha conseguido sistemas que puedan descubrir representaciones de alto nivel, el tipo de conceptos que usamos en el lenguaje. Los seres humanos son capaces de utilizar esos conceptos de alto nivel para generalizar de manera poderosa. Eso es algo que pueden hacer incluso los bebés, pero el aprendizaje automático es muy malo. (aquí)

Bengio tiene razón en su diagnóstico. Del famoso trío (Geoff Hinton, Yoshua Bengio y Yann LeCun), Bengio ha sido en realidad más abierto a la hora de discutir las limitaciones del DL (en contraposición a, por ejemplo, el "muy pronto el aprendizaje profundo será capaz de hacer cualquier cosa" de Hinton). Pero Bengio sigue insistiendo en que el paradigma de la AD puede llegar a realizar razonamientos de alto nivel sin recurrir al razonamiento simbólico y lógico.

El problema que tienen los extremistas de la AD al admitir el razonamiento simbólico y lógico (S&LR) es que esto hará que las redes neuronales sean sólo una de las herramientas que pueden utilizarse en tareas de bajo nivel como la percepción y el reconocimiento de patrones, mientras que el S&LR tendrá la supremacía de modelar el razonamiento de alto nivel de tipo humano, el tipo que utilizamos en tareas complejas de resolución de problemas, comprensión del lenguaje, etc. Así pues, cualquiera que vea la mente como una simple red neuronal nunca admitirá la necesidad del razonamiento simbólico y lógico (S&LR). Pero si no aceptan este hecho ahora, con el tiempo lo harán, si es que reconocen la necesidad de una representación de alto nivel de los conceptos abstractos que nos permita "generalizar de manera poderosa", algo que claramente reconoce Bengio.

Pero no hay aprendizaje de hechos básicos sin generalizaciones lógicas

En un artículo anterior discutí la posibilidad de aprender de arriba a abajo (en lugar de abajo a arriba a partir de los datos): mediante la instanciación de plantillas innatas (metafísicas), ya que de otro modo sería difícil explicar cómo los niños llegan a conocer la física básica de sentido común de forma temprana sin tener tiempo de aprender estas plantillas a partir de los datos. Como ejemplo, he utilizado la plantilla LocatedIn. La lógica de esta plantilla se puede describir mejor con la imagen de abajo (que se repite del artículo anterior).

Como su guante de béisbol está en su maletín, Tom sabe que si pone el maletín en el SUV de su madre, la ubicación de su guante de béisbol es también la ubicación del SUV de su madre. También sabe que si se dirigen a Woodstock, Nueva York, su guante de béisbol estará ahora en Woodstock, Nueva York, etc.

Como hemos argumentado antes, es muy preocupante suponer que un niño llega a aprender la lógica de la plantilla anterior de abajo arriba a partir de observaciones/datos. Hay muchas razones técnicas por las que esta suposición es problemática, pero aquí señalamos dos problemas muy críticos con este aprendizaje ascendente/impulsado por los datos de estas plantillas de física ingenua (de sentido común): (i) esta tesis tropieza con un problema de circularidad, ya que para aprender la lógica de la plantilla LocatedIn habría que haber aprendido ya la lógica de (por ejemplo) la plantilla ContainedIn, lo que a su vez podría suponer recursivamente que ya se conoce la plantilla LocatedIn; y (ii) si estas plantillas se aprenden de abajo a arriba y, por tanto, individualmente, existe la posibilidad de que las aprendamos de forma diferente, pero como no se nos permite aprenderlas de forma diferente, no podrían ser el resultado de observaciones (o experiencias) individuales.

*** Translated with www.DeepL.com/Translator (free version) ***