Artificio e Inteligencia

https://techpolicy.press/artifice-and-intelligence/?s=03

Las palabras importan.


A partir de hoy, el Centro de Privacidad dejará de utilizar los términos "inteligencia artificial", "IA" y "aprendizaje automático" en nuestro trabajo para exponer y mitigar los daños de las tecnologías digitales en la vida de las personas y las comunidades.


Trataré de explicar lo que está en juego para nosotros en esta decisión con referencia al documento fundacional de Alan Turing, Computing Machinery and Intelligence, que es, por supuesto, más famoso por su descripción de lo que el propio documento llama "el juego de imitación", pero que ha llegado a ser conocido popularmente como "la prueba de Turing". En el juego de imitación participan dos personas (una de las cuales adopta el papel de "interrogador") y un ordenador. El objetivo es que el interrogador, separado físicamente del otro jugador y del ordenador, intente discernir mediante una serie de preguntas cuál de las respuestas a esas preguntas es producida por el otro humano y cuál por el ordenador. Turing proyecta que:


...dentro de unos cincuenta años será posible programar ordenadores, con una capacidad de almacenamiento de aproximadamente 10⁹, para que jueguen el juego de imitación tan bien que un interrogador medio no tendrá más del 70 por ciento, de posibilidades de hacer la identificación correcta después de cinco minutos de interrogatorio.


La mayor parte de la aceptación científica, política y creativa del juego de la imitación lo aborda (de forma crítica o defensiva) como una prueba de la inteligencia de las máquinas. Pero, por muy provocativa que sea la cuestión de la suficiencia del juego de imitación como prueba, no es la pregunta que el artículo de Turing pretende responder. De hecho, en los primeros párrafos del documento, explica que está sustituyendo la pregunta "¿pueden pensar las máquinas?" por la pregunta de si un humano puede confundir un ordenador con otro humano. No ofrece esta última pregunta como una heurística útil para la primera; no dice que piense que estas dos preguntas son versiones de la otra. Más bien, expresa la creencia de que la pregunta "¿pueden pensar las máquinas?" no tiene ningún valor, y parece esperar afirmativamente un futuro cercano en el que, de hecho, sea muy difícil, si no imposible, que los seres humanos se planteen la pregunta en absoluto:


La pregunta original, "¿Pueden pensar las máquinas? creo que carece de sentido como para merecer una discusión. Sin embargo, creo que a finales de siglo el uso de las palabras y la opinión generalizada se habrán modificado tanto que se podrá hablar de que las máquinas piensan sin esperar que se les contradiga.


Aunque no hay indicios de que estemos cerca de realizar la predicción más limitada de Turing de un ordenador que los seres humanos confundan con un ser humano, me preocupa que la predicción más amplia de Turing se haya cumplido. Ahora es bastante habitual, tanto en el periodismo como en la literatura popular y académica, leer que las máquinas no sólo "piensan" sino que realizan una amplia gama de actividades contemplativas y deliberativas, como "juzgar", "predecir", "interpretar", "decidir", "reconocer" y, por supuesto, "aprender". Los términos "inteligencia artificial", "IA" y "aprendizaje automático", sustituyen por doquier las escrupulosas descripciones que harían transparentes para el ciudadano medio las tecnologías a las que se refieren.


Nuestra falta de autoconciencia a la hora de utilizar, o consumir, un lenguaje que da por sentada la inteligencia de las máquinas no es algo que hayamos coevolucionado en respuesta a los avances reales en la sofisticación computacional del tipo que Turing, y otros, anticiparon. Más bien es algo a lo que nos hemos visto abocados en gran parte gracias a las campañas de marketing, y al control del mercado, de las empresas tecnológicas que venden productos informáticos cuya novedad no reside en ningún tipo de descubrimiento científico, sino en la aplicación de una potencia de procesamiento turboalimentada a los conjuntos de datos masivos que un enorme vacío de gobernanza ha permitido generar y/o extraer a las empresas. Este es el tipo de tecnología que ahora se vende bajo el término "inteligencia artificial".


Meredi

Comentarios

Popular

Herramientas de Evaluación de Sistemas Algorítmicos

Sistemas multiagentes: Desafíos técnicos y éticos del funcionamiento en un grupo mixto

Controversias éticas en torno a la privacidad, la confidencialidad y el anonimato en investigación social