Es hora de un discurso científico honesto sobre la IA y el aprendizaje profundo, con Gary Marcus

https://www.carnegiecouncil.org/studio/multimedia/20211103-honest-scientific-discourse-ai-deep-learning-gary-marcus

Empezaré diciendo que mi primer amor verdadero es entender la mente -¿cómo consigue la mente humana hacer las cosas que hace?-, muchas de las cuales son impresionantes, pero no todas lo son, por lo que una vez escribí un libro llamado Kluge, que trata de las formas en que la mente no es muy impresionante.

Pero en la última década me he centrado principalmente en la inteligencia artificial, que en realidad era mi interés cuando era un niño. Así que volví y completé el círculo de mis primeros intereses, pero ahora mirando la inteligencia artificial a través del estudio de la mente. Y no me ha gustado mucho lo que he visto. Primero me quedé al margen escribiendo sobre el tema, y luego decidí entrar realmente en el campo de la IA y empezar a crear empresas. Vendí la primera. Sigo intentando comprender cómo podemos crear una IA que sea al menos tan, digamos, fiable como los seres humanos, lo que no es perfecto pero sí mucho mejor que el estado de la IA en el que nos encontramos actualmente.

Tengo una especie de doble objetivo. Uno de ellos es que realmente quiero que la IA funcione. Es una de mis pasiones de toda la vida. La otra es que quiero que sea buena y que sea una fuerza para el bien, y realmente no lo veo ahora.

La evolución de la IA me ha decepcionado. Desde el punto de vista técnico, no creo que sea adecuada, y creo que las insuficiencias están causando muchos problemas sociales ahora mismo. De hecho, no sé si la contribución neta de la IA hasta ahora ha sido positiva. Creo que existe un potencial. Creo que hay formas en las que podríamos hacer IA mucho mejor de lo que lo hemos hecho, tanto en el aspecto técnico como en términos de política y demás. Ahora mismo estoy en el campo, pero soy bastante crítico con él.


Comentarios

Popular

Herramientas de Evaluación de Sistemas Algorítmicos

Sistemas multiagentes: Desafíos técnicos y éticos del funcionamiento en un grupo mixto

Controversias éticas en torno a la privacidad, la confidencialidad y el anonimato en investigación social