¿Cómo de peligrosa es la IA?
El futuro de la humanidad más allá de este siglo depende posiblemente de cómo gestionemos dos recursos abstractos: la energía y la información. Las tecnologías de la información presentan una incógnita aún mayor que la crisis climática, tanto en términos de oportunidades como de peligros. Unos mejores recursos informáticos ayudarán a resolver todo tipo de problemas. Pero a medida que estos recursos son potenciados cada vez más por los algoritmos designados hoy como "inteligencia artificial", debemos preguntarnos también qué tipo de mente de máquina estamos construyendo.
Esta es la pregunta que se planteó en las Conferencias Reith de este año, pronunciadas por el informático británico Stuart Russell, de la Universidad de California en Berkeley. Russell ha sido una de las voces más destacadas dentro de la disciplina que ha pedido que se considere cómo se puede desarrollar la IA de forma segura y responsable, y en su libro de 2019 Human Compatible expuso su visión de cómo podría lograrse.
La primera conferencia, a la que asistí, tuvo lugar en el Instituto Alan Turing de la Biblioteca Británica, que lleva el nombre del matemático al que a menudo se le atribuye el lanzamiento de toda la noción de "inteligencia artificial" creada por la informática digital. El artículo de Turing de 1950 "Computing machinery and intelligence" sostenía que el objetivo de crear una máquina que "piense" era factible y deseable. Pero Turing también reconoció que el éxito tendría profundas implicaciones para la sociedad humana. "Una vez que la máquina pensara, no tardaría en superar nuestros débiles poderes", dijo entonces. "Si una máquina puede pensar, podría pensar de forma más inteligente que nosotros, y entonces, ¿dónde estaríamos nosotros?". En algún momento, concluyó, "tendríamos que esperar que las máquinas tomaran el control".
Ese no era un temor nuevo (si es que lo era). La aniquilación de la humanidad por parte de los robots fue retratada en la obra de teatro RUR, de Karel Čapek, de 1920, que introdujo la palabra checa robota (que significa trabajador o siervo) en el vocabulario. El propio Turing citó la novela utópica Erewhon, de Samuel Butler, de 1872, en la que se prohíben las máquinas, no sea que acabemos "creando nuestros sucesores en la supremacía de la Tierra".
*** Translated with www.DeepL.com/Translator (free version) ***
Comentarios
Publicar un comentario