Cómo la inteligencia artificial explicable puede ayudar a los humanos a innovar

 El campo de la inteligencia artificial (IA) ha creado computadoras que pueden conducir automóviles, sintetizar compuestos químicos, doblar proteínas y detectar partículas de alta energía a un nivel sobrehumano.

Sin embargo, estos algoritmos de IA no pueden explicar los procesos de pensamiento detrás de sus decisiones. Una computadora que domina el plegado de proteínas y también les dice a los investigadores más sobre las reglas de la biología es mucho más útil que una computadora que dobla las proteínas sin explicación.

Por lo tanto, los investigadores de IA como yo ahora estamos enfocando nuestros esfuerzos en desarrollar algoritmos de IA que puedan explicarse de una manera que los humanos puedan entender. Si podemos hacer esto, creo que la IA podrá descubrir y enseñar a las personas nuevos hechos sobre el mundo que aún no se han descubierto, lo que conducirá a nuevas innovaciones.

Un robot humanoide leyendo un libro.

Cuando se deja que las máquinas aprendan y resuelvan problemas a través de su propia experiencia, esto se denomina aprendizaje por refuerzo. Gremlin / E + a través de Getty Images

Aprendiendo de la experiencia

Un campo de la IA, llamado aprendizaje por refuerzo, estudia cómo las computadoras pueden aprender de sus propias experiencias. En el aprendizaje por refuerzo, una IA explora el mundo y recibe comentarios positivos o negativos basados ​​en sus acciones.

¿Le gusta lo que lee? ¿Quiere más?

Este enfoque ha llevado a algoritmos que han aprendido de forma independiente a jugar al ajedrez a un nivel sobrehumano y han demostrado teoremas matemáticos sin ninguna guía humana. En mi trabajo como investigador de IA, utilizo el aprendizaje por refuerzo para crear algoritmos de IA que aprenden a resolver acertijos como el cubo de Rubik.

A través del aprendizaje por refuerzo, las IA están aprendiendo de forma independiente a resolver problemas que incluso los humanos tienen dificultades para resolver. Esto me hizo y a muchos otros investigadores pensar menos en lo que la IA puede aprender y más en lo que los humanos pueden aprender de la IA. Una computadora que pueda resolver el cubo de Rubik también debería poder enseñar a las personas cómo resolverlo.

Mirando dentro de la caja negra

Desafortunadamente, las mentes de las IA sobrehumanas están actualmente fuera del alcance de los humanos. Las IA son profesores terribles y son lo que en el mundo de la informática llamamos "cajas negras".

Un estuche negro abierto

Los investigadores llevan décadas intentando comprender cómo las IA resuelven problemas. rockz / iStock a través de Getty Images Plus

Una IA de caja negra simplemente escupe soluciones sin dar razones de sus soluciones. Los científicos informáticos han intentado durante décadas abrir esta caja negra, y una investigación reciente ha demostrado que muchos algoritmos de IA realmente piensan de manera similar a los humanos. Por ejemplo, una computadora entrenada para reconocer animales aprenderá sobre diferentes tipos de ojos y oídos y reunirá esta información para identificar correctamente al animal.

El esfuerzo por abrir la caja negra se llama IA explicable. Mi grupo de investigación en el Instituto de IA de la Universidad de Carolina del Sur está interesado en desarrollar una IA explicable. Para lograr esto, trabajamos mucho con el cubo de Rubik.

El cubo de Rubik es básicamente un problema de búsqueda de caminos: encuentre un camino desde el punto A, un cubo de Rubik revuelto, hasta el punto B, un cubo de Rubik resuelto. Otros problemas de búsqueda de caminos incluyen la navegación, la demostración de teoremas y la síntesis química.

Mi laboratorio ha creado un sitio web donde cualquiera puede ver cómo nuestro algoritmo de inteligencia artificial resuelve el cubo de Rubik; sin embargo, una persona tendría dificultades para aprender a resolver el cubo desde este sitio web. Esto se debe a que la computadora no puede decirle la lógica detrás de sus soluciones.

Las soluciones para el cubo de Rubik se pueden dividir en unos pocos pasos generalizados: el primer paso, por ejemplo, podría ser formar una cruz, mientras que el segundo paso podría ser colocar las esquinas en su lugar. Si bien el cubo de Rubik en sí tiene más de 10 a la 19 combinación de potencias posibles, una guía generalizada paso a paso es muy fácil de recordar y se puede aplicar en muchos escenarios diferentes.

Abordar un problema dividiéndolo en pasos suele ser la forma predeterminada en que las personas se explican las cosas entre sí. El cubo de Rubik encaja naturalmente en este marco paso a paso, lo que nos brinda la oportunidad de abrir la caja negra de nuestro algoritmo más fácilmente. La creación de algoritmos de IA que tengan esta capacidad podría permitir a las personas colaborar con la IA y dividir una amplia variedad de problemas complejos en pasos fáciles de entender.

Una imagen que muestra el proceso de pensamiento de un algoritmo de IA de resolución de cubos de Rubik

Un enfoque de refinamiento paso a paso puede facilitar que los humanos comprendan por qué las IA hacen las cosas que hacen. Bosque Agostinelli, CC BY-ND

La colaboración conduce a la innovación

Nuestro proceso comienza con el uso de la propia intuición para definir un plan paso a paso pensado para resolver potencialmente un problema complejo. Luego, el algoritmo analiza cada paso individual y brinda retroalimentación sobre qué pasos son posibles, cuáles son imposibles y formas de mejorar el plan. Luego, el humano refina el plan inicial utilizando los consejos de la IA, y el proceso se repite hasta que se resuelve el problema. La esperanza es que la persona y la IA eventualmente converjan en una especie de comprensión mutua.

https://theconversation.com/how-explainable-artificial-intelligence-can-help-humans-innovate-151737