Cómo las IAs de generación de lenguaje podrían transformar la ciencia

https://doi.org/10.1038/d41586-022-01191-3

Los algoritmos de aprendizaje automático que generan un lenguaje fluido a partir de grandes cantidades de texto podrían cambiar la forma de hacer ciencia, pero no necesariamente para mejor, afirma Shobita Parthasarathy, especialista en gobernanza de tecnologías emergentes de la Universidad de Michigan en Ann Arbor.

En un informe publicado el 27 de abril, Parthasarathy y otros investigadores tratan de anticipar las repercusiones sociales de las nuevas tecnologías de inteligencia artificial (IA) denominadas grandes modelos lingüísticos (LLM). Estos modelos pueden producir una prosa asombrosamente convincente, traducir entre idiomas, responder a preguntas e incluso producir código. Las empresas que los construyen -entre ellas Google, Facebook y Microsoft- pretenden utilizarlos en chatbots y motores de búsqueda, así como para resumir documentos. (Al menos una empresa, Ought, de San Francisco (California), está probando los LLM en la investigación; está construyendo una herramienta llamada "Elicit" para responder a preguntas utilizando la literatura científica).

Los LLM ya son controvertidos. A veces repiten errores o estereotipos problemáticos en los millones o miles de millones de documentos con los que se entrenan. Y a los investigadores les preocupa que los flujos de lenguaje generado por ordenador, aparentemente autorizado e indistinguible de la escritura humana, puedan causar desconfianza y confusión.

Parthasarathy afirma que, aunque los LLM podrían reforzar los esfuerzos por comprender investigaciones complejas, también podrían aumentar el escepticismo del público respecto a la ciencia. Habló con Nature sobre el informe.

¿Cómo pueden los LLMs ayudar u obstaculizar la ciencia?

En un principio pensé que los LLM podrían tener un impacto democratizador y potenciador. En lo que respecta a la ciencia, podrían permitir a la gente extraer rápidamente información: por ejemplo, consultando los síntomas de una enfermedad o generando resúmenes de temas técnicos.