Entradas

Mostrando las entradas etiquetadas como AGI Inteligencia Natural y Artificial

El riesgo existencial de la IA y la ortogonalidad: ¿Podemos tenerlo todo?

https://onlinelibrary.wiley.com/doi/full/10.1111/rati.12320#.YZLnhBoccAM.twitter El argumento estándar para concluir que la inteligencia artificial (IA) constituye un riesgo existencial para la especie humana utiliza dos premisas: (1) La IA puede alcanzar niveles superinteligentes, momento en el que los humanos perderemos el control (la "afirmación de la singularidad"); (2) Cualquier nivel de inteligencia puede ir unido a cualquier objetivo (la "tesis de la ortogonalidad"). La tesis de la singularidad requiere una noción de "inteligencia general", mientras que la tesis de la ortogonalidad requiere una noción de "inteligencia instrumental". Si esta interpretación es correcta, no pueden unirse como premisas y el argumento del riesgo existencial de la IA resulta inválido. Si la interpretación es incorrecta y ambas premisas utilizan la misma noción de inteligencia, entonces al menos una de las premisas es falsa y la tesis de la ortogonalidad sigue si...

Cognición sin computación Que una teoría sea antigua no significa que sea correcta

https://spectrum.ieee.org/cognition-without-computation   Voy a decirlo sin rodeos: la cognición humana podría no tener nada que ver con la computación. Sí, soy muy consciente de que la teoría computacional de la mente es una teoría muy arraigada, que comenzó con los trabajos de Warren McCulloch y Walter Pitts en Chicago a principios de los años 40, y más tarde en el MIT, donde se les unieron Jerome Lettvin y Humberto Maturana. Pero a lo largo de la historia de la humanidad, muchas teorías se han mantenido de forma generalizada pero errónea, a veces durante décadas. Pensemos en la teoría del flogisto de la combustión. Durante más de un siglo, a partir de 1667, la mayoría de los científicos creyeron que lo que hacía arder cosas dispares era una sustancia común, más tarde llamada flogisto, que se disipaba en el aire a través del fuego. El aire sólo tenía una capacidad finita para absorberla, lo que explicaba por qué el fuego se extinguía si sólo había una pequeña cantidad de aire dis...

Una verdad incómoda sobre la IA La IA no superará la inteligencia humana en breve

https://spectrum.ieee.org/rodney-brooks-ai ESTAMOS EN LA TERCERA OLA DE GRANDES INVERSIONES EN INTELIGENCIA ARTIFICIAL. Así que es un buen momento para adoptar una perspectiva histórica sobre el éxito actual de la IA. En los años sesenta, los primeros investigadores de la IA solían predecir con entusiasmo que las máquinas inteligentes de nivel humano estaban a sólo 10 años de distancia. Esa forma de IA se basaba en el razonamiento lógico con símbolos y se llevaba a cabo con lo que hoy parecen ordenadores digitales ridículamente lentos. Esos mismos investigadores consideraron y rechazaron las redes neuronales. Este artículo forma parte de nuestro informe especial sobre la IA, "The Great AI Reckoning". En la década de 1980, la segunda era de la IA se basó en dos tecnologías: los sistemas expertos basados en reglas -una forma más heurística de razonamiento lógico basado en símbolos- y un resurgimiento de las redes neuronales provocado por la aparición de nuevos algoritmos de ent...

Para crear la AGI, necesitamos una nueva teoría de la inteligencia

https://bdtechtalks.com/2021/08/05/artificial-intelligence-considered-response/amp/ Durante décadas, los científicos han intentado crear imitaciones computacionales del cerebro. Y durante décadas, el santo grial de la inteligencia general artificial, ordenadores que puedan pensar y actuar como los humanos, ha seguido eludiendo a científicos e investigadores. ¿Por qué seguimos replicando algunos aspectos de la inteligencia pero no conseguimos generar sistemas que puedan generalizar sus habilidades como los humanos y los animales? Un informático que lleva tres décadas trabajando en la IA cree que, para superar los obstáculos de la IA estrecha, debemos considerar la inteligencia desde una perspectiva diferente y más fundamental. En un artículo presentado en el congreso Brain-Inspired Cognitive Architectures for Artificial Intelligence (BICA*AI), Sathyanaraya Raghavachary, profesor asociado de informática de la Universidad del Sur de California, habla de la "respuesta considerada...

Descubrir características universales: Cómo mejora la formación adversarial la transferibilidad adversaria

https://openreview.net/pdf?id=tzModtpOW7l Los ejemplos adversos para las redes neuronales son se sabe que son transferibles: los ejemplos optimizados para ser clasificados erróneamente por una red "origen" suelen ser clasificados erróneamente por otras redes "destino". En este caso, demostramos que el entrenamiento de la red de origen para que sea "ligeramente robusta" -es decir, robusta a los ejemplos adversos de pequeña magnitud- mejora sustancialmente mejora la transferibilidad de los ataques dirigidos, incluso entre arquitecturas tan diferentes como las redes neuronales convolucionales y los transformadores. De hecho demostramos que estos ejemplos adversarios pueden transferir características de la capa de representación (penúltima) sustancialmente mejor que los ejemplos adversarios generados con redes no robustas. Argumentamos que este resultado apoya una hipótesis no intuitiva: las redes ligeramente robustas presentan características universales, que...

Necesitamos diseñar la desconfianza en los sistemas de IA para hacerlos más seguros

https://www.technologyreview.com/2021/05/13/1024874/ai-ayanna-howard-trust-robots/ He notado que utiliza el término "inteligencia humanizada" para describir su investigación, en lugar de "inteligencia artificial". ¿Porqué es eso? Sí, comencé a usar eso en un artículo en 2004. Estaba pensando en por qué trabajamos en inteligencia para robótica y sistemas de inteligencia artificial. No es que queramos crear estas funciones inteligentes fuera de nuestras interacciones con las personas. Estamos motivados por la experiencia humana, los datos humanos, las aportaciones humanas. La "inteligencia artificial" implica que es un tipo diferente de inteligencia, mientras que la "inteligencia humanizada" dice que es inteligente pero está motivada por la construcción humana. Y eso significa que cuando creamos estos sistemas, también nos aseguramos de que tengan algunos de nuestros valores sociales. ¿Cómo llegaste a este trabajo? Fue principalmente motivado por m...

"Nunca tendremos una verdadera IA sin primero comprender el cerebro"

https://www.technologyreview.com/2021/03/03/1020247/artificial-intelligence-brain-neuroscience-jeff-hawkins/ La búsqueda de la IA siempre se ha tratado de intentar construir máquinas que piensen, al menos en cierto sentido. Pero la cuestión de cuán parecidas deberían ser la inteligencia artificial y la biológica ha dividido la opinión durante décadas. Los primeros esfuerzos para construir IA involucraron procesos de toma de decisiones y sistemas de almacenamiento de información que se inspiraron vagamente en la forma en que los humanos parecían pensar. Y las redes neuronales profundas de hoy en día se inspiran vagamente en la forma en que las neuronas interconectadas se activan en el cerebro. Pero la inspiración suelta suele llegar hasta donde llega. La mayoría de las personas en IA no se preocupan demasiado por los detalles, dice Jeff Hawkins, neurocientífico y emprendedor tecnológico. Quiere cambiar eso. Hawkins ha estado a caballo entre los dos mundos de la neurociencia y la IA dura...

Esta investigadora dice que la inteligencia artificial no es ni artificial ni inteligente.

https://www.wired.com/story/researcher-says-ai-not-artificial-intelligent/ https://www.theguardian.com/technology/2021/jun/06/microsofts-kate-crawford-ai-is-neither-artificial-nor-intelligent A LAS EMPRESAS DE TECNOLOGÍA LES GUSTA presentar la inteligencia artificial como una herramienta precisa y poderosa para el bien. Kate Crawford dice que la mitología tiene fallas. En su libro Atlas of AI, visita una mina de litio, un almacén de Amazon y un archivo de cráneos frenológicos del siglo XIX para ilustrar los recursos naturales, el sudor humano y la mala ciencia que sustentan algunas versiones de la tecnología. Crawford, profesor de la Universidad del Sur de California e investigador de Microsoft, dice que muchas aplicaciones y efectos secundarios de la IA necesitan una regulación urgente.

Por qué la IA no puede resolver problemas desconocidos

https://bdtechtalks.com/2021/03/29/ai-algorithms-representations-herbert-roitblat/ ¿Cuándo tendremos inteligencia artificial general, el tipo de IA que puede imitar la mente humana en todos los aspectos? Los expertos están divididos sobre el tema y las respuestas oscilan entre unas pocas décadas y nunca. Pero en lo que todos están de acuerdo es en que los sistemas de IA actuales están muy lejos de la inteligencia humana. Los seres humanos pueden explorar el mundo, descubrir problemas sin resolver y pensar en sus soluciones. Mientras tanto, la caja de herramientas de IA continúa creciendo con algoritmos que pueden realizar tareas específicas pero no pueden generalizar sus capacidades más allá de sus dominios estrechos. Tenemos programas que pueden vencer a los campeones del mundo en StarCraft, pero no pueden jugar un juego ligeramente diferente a nivel amateur. Tenemos redes neuronales artificiales que pueden encontrar signos de cáncer de mama en las mamografías, pero no pueden diferenc...

Aristóteles y el chatbot: cómo las antiguas reglas de la lógica podrían hacer que la inteligencia artificial sea más humana

 Desde el siglo XX, el campo de la lógica se ha alejado del enfoque de Aristóteles hacia sistemas que utilizan la lógica de predicados y proposicionales. Este tipo de lógica ha sido desarrollado por matemáticos para aplicaciones matemáticas; de ahí que se denominen lógicas matemáticas. Se requiere que su razonamiento sea infalible. El razonamiento humano, por otro lado, no siempre es infalible. Razonamos principalmente a través de la deducción, la inducción y la abducción. Puede pensar en la deducción como el uso de reglas generalizadas para razonar sobre un ejemplo específico, mientras que la inducción y la abducción implican mirar una colección de ejemplos y tratar de elaborar las reglas que los explican. Si bien la deducción tiende a ser más precisa, la inducción y la abducción son menos confiables. Estos son procesos complejos que no se programan fácilmente en máquinas. Podría decirse que la inducción y la abducción son lo que separa la inteligencia humana, que es vasta y gener...

Diferencia entre redes neuronales artificiales y cerebros biológicos

En un artículo publicado en la revista Nature, Anthony Zador, profesor del Laboratorio de Neurociencia Cold Spring Harbor Laboratory, argumenta que es un cerebro altamente estructurado que permite a los animales convertirse en aprendices muy eficientes. Titulado "Una crítica al aprendizaje puro y lo que las redes neuronales artificiales pueden aprender de los cerebros de los animales", el artículo de Zador explica por qué ampliar las capacidades actuales de procesamiento de datos de los algoritmos de IA no ayudará a alcanzar la inteligencia de los perros, y mucho menos a los humanos. Lo que necesitamos, explica Zador, no es AI que aprende todo desde cero, sino algoritmos que, como los seres orgánicos, tienen capacidades intrínsecas que se pueden complementar con la experiencia de aprendizaje. https://bdtechtalks.com/2020/07/06/artificial-neural-networks-vs-brains/ Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad D...

Sobre la caída de la barrera del significado en la IA

Paper de Melanie Mitchell . En 1986, el matemático y filósofo Gian-Carlo Rota escribió: "Me pregunto llegará  la inteligencia artificial alguna vez a romper la barrera del significado ". (Rota 1986). Aquí el La frase "barrera de significado" se refiere a una creencia sobre los humanos versus las máquinas: los humanos son capaces para "entender realmente" las situaciones que encuentran, mientras que incluso las más avanzadas de Los sistemas de IA de hoy todavía no tienen una comprensión humana de los conceptos que somos tratando de enseñarles Esta falta de comprensión puede ser la base de las limitaciones actuales en el generalidad y fiabilidad de los sistemas modernos de IA. En octubre de 2018, el Instituto Santa Fe celebró un taller de tres días, organizado por Barbara Grosz, Dawn Song y yo, llamado "Artificial Inteligencia y la barrera del significado ". Treinta participantes de un conjunto diverso de disciplinas: IA, robótica, psicología cogni...

Steven Pinker y Stuart Russell sobre los fundamentos, los beneficios y la posible amenaza existencial de la IA

Podcast de una conversación de Steven Pinker y Stuart Rusell. Los temas discutidos en este episodio incluyen: Los fundamentos históricos e intelectuales de la IA Cómo los sistemas de inteligencia artificial logran o no la inteligencia de la misma manera que la mente humana El surgimiento de la IA y lo que significa Los beneficios y riesgos de la IA a corto y largo plazo Si la IA superinteligente representará un riesgo existencial para la humanidad https://futureoflife.org/2020/06/15/steven-pinker-and-stuart-russell-on-the-foundations-benefits-and-possible-existential-risk-of-ai/?cn-reloaded=1 Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad Deep Learning (@forodeeplearn).  Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

Por qué la AGI nunca será posible

El proyecto moderno de crear inteligencia artificial (IA) similar a la humana comenzó después de la Segunda Guerra Mundial, cuando se descubrió que las computadoras electrónicas no son solo máquinas de cálculo de números, sino que también pueden manipular símbolos. Es posible perseguir este objetivo sin suponer que la inteligencia artificial es idéntica a la inteligencia humana. Esto se conoce como IA débil. Sin embargo, muchos investigadores de IA han perseguido el objetivo de desarrollar inteligencia artificial que en principio es idéntica a la inteligencia humana, llamada IA ​​fuerte. La IA débil es menos ambiciosa que la IA fuerte y, por lo tanto, menos controvertida. Sin embargo, también hay importantes controversias relacionadas con la IA débil. Este artículo se centra en la distinción entre inteligencia general artificial (AGI) e inteligencia estrecha artificial (ANI). Aunque AGI puede clasificarse como IA débil, está cerca de una IA fuerte porque una de las principales caracter...

Revista Intligencia Artificial, num 48

https://revistaidees.cat/es/monografics/intelligencia-artificial/ Editorial IA: los interrogantes que nos interpelan Ramon López de Mántaras, Carles Sierra, Pere Almeda Políticas estratégicas de IA en la carrera geopolítica La estrategia política en IA en los Estados Unidos Peter Stone Políticas científicas de IA en China Yi Chang, Chengqi Zhang Retos éticos La IA en Catalunya, un ecosistema prometedor Karina Gibert El ecosistema de startups de IA en España Daniel Villatoro Israel: (AI) Startup Nation? Onn Shehory Impactos sociales y democráticos Reflexión sobre la «ética» en la ética de la IA Pak-Hang Wong, Judith Simon La singularidad tecnológica y el sueño transhumanista Miquel Casas Uso militar de la IA Algoritmos iliberales César Rendueles Las sociedades en la era de la automatización Lorena Jaume-Palasí La redefinición del poder Pompeu Casanovas Inteligencia Artificial en tiempos de pandemia Kristine Gloria ¿Inteligencias? ¡Las necesitamos todas! Javi Creus Desigualdad, economía ...

Yann LeCun and Yoshua Bengio: el aprendizaje auto supervisado es clave parala inteligenci a nivel humano

Según los ganadores del Premio Turing, Yoshua Bengio y Yann LeCun, el aprendizaje auto supervisado podría conducir a la creación de una IA más parecida a la humana en su razonamiento. Bengio, director del Instituto de Algoritmos de Aprendizaje de Montreal, y LeCun, vicepresidente de Facebook y científico principal de IA, hablaron con franqueza sobre esta y otras tendencias de investigación durante una sesión en la Conferencia Internacional sobre Representación de Aprendizaje (ICLR) 2020, que tuvo lugar en línea. https://venturebeat.com/2020/05/02/yann-lecun-and-yoshua-bengio-self-supervised-learning-is-the-key-to-human-level-intelligence/ Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)

La clave de la IA para la verdadera inteligencia es cómo olvidar

Si bien puede sonar contra-intuitivo, la IA necesita aprender a olvidarse para ser más inteligente. Justo como nosotros. https://thenextweb.com/podium/2020/01/13/ais-key-to-true-intelligence-is-learning-how-to-forget/ Adaptado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad Deep Learning (@forodeeplearn)