Actualidad Deep Learning

https://www.politico.eu/newsletter/ai-decoded/ai-policy-in-2022-slaughterbots-are-go-covid-19-has-exposed-ais-flaws-in-hospital-2/

https://anchor.fm/tdslowdown/episodes/AI-capabilities--hype--and-power-e1cdt94 La exageración de la IA se refiere a una situación en la que las capacidades reivindicadas o percibidas de la IA superan las capacidades reales de los sistemas en cuestión. Sin embargo, no toda esta exageración es inocente, ya que la percepción que el público, los académicos, los empresarios y los políticos tienen sobre la IA determina su forma de actuar, invertir, comportarse y legislar. En el episodio de hoy, Dwayne Monroe acude a TDSlowdown para hablar de estas cuestiones y, en particular, para permitirme profundizar un poco más en su pensamiento sobre lo que él llama la IA como propaganda. Aquí hay un enlace al artículo de Dwayne sobre el tema: monroelab.net/attack-mannequins-ai-as-propaganda Y aquí hay un enlace a un artículo que he escrito sobre un tema relacionado: www.igi-global.com/article/confounding-complexity-of-machine-action/269437

https://spectrum.ieee.org/deep-learning-cant-be-trusted Durante los últimos 20 años, el aprendizaje profundo ha llegado a dominar la investigación y las aplicaciones de la inteligencia artificial gracias a una serie de útiles aplicaciones comerciales. Pero bajo el deslumbramiento hay algunos problemas de fondo que amenazan el ascenso de la tecnología. La incapacidad de un programa típico de aprendizaje profundo para rendir bien en más de una tarea, por ejemplo, limita gravemente la aplicación de la tecnología a tareas específicas en entornos rígidamente controlados. Y lo que es más grave, se ha afirmado que el aprendizaje profundo no es digno de confianza porque no es explicable, y no es adecuado para algunas aplicaciones porque puede experimentar olvidos catastróficos. Dicho más claramente, si el algoritmo funciona, puede ser imposible entender completamente por qué. Y mientras la herramienta está aprendiendo lentamente una nueva base de datos, una parte arbitraria de sus recuerdos ap...

https://prospect.org/culture/books/myth-of-artificial-intelligence-kissinger-schmidt-huttenlocher/ El término "inteligencia artificial" es ampliamente reconocido por los investigadores no como un descriptor técnicamente preciso, sino como un proyecto con aspiraciones que comprende una creciente colección de tecnologías centradas en los datos. La reciente tendencia de la IA se inició en 2010, cuando una combinación de mayor potencia de cálculo y enormes cantidades de datos de la web reanimó el interés por técnicas de hace décadas. Lo nuevo no eran los algoritmos, sino los recursos concentrados y los modelos de negocio de vigilancia capaces de recoger, almacenar y procesar cantidades de datos antes insondables. ND21 Whittaker cover.jpg En otras palabras, los llamados "avances" en IA celebrados en la última década son principalmente el producto de los datos y recursos informáticos significativamente concentrados que residen en manos de unas pocas grandes corporaciones ...

https://openreview.net/pdf?id=j6NxpQbREA1 Hay una tendencia en los diferentes subcampos de la IA a valorar una pequeña colección de puntos de referencia influyentes. Estos puntos de referencia actúan como sustitutos de una serie de de problemas comunes ungidos que a menudo se enmarcan como hitos fundacionales en el camino hacia sistemas de IA flexibles y generalizables. El estado de la técnica El rendimiento del estado de la técnica en estos puntos de referencia se considera un indicador del progreso hacia estos objetivos a largo plazo. En este documento de posición, exploramos los límites de estos para poner de manifiesto los problemas de validez de constructo que plantean como medidas como las medidas de progreso funcionalmente "generales" que pretenden ser.

https://interactions.acm.org/archive/view/november-december-2021/the-steep-cost-of-capture Este es un momento peligroso. Los sistemas informáticos privados comercializados como inteligencia artificial (IA) se están introduciendo en nuestra vida e instituciones públicas, concentrando el poder industrial, agravando la marginación y configurando silenciosamente el acceso a los recursos y la información. ins01.gif A la hora de considerar cómo hacer frente a este ataque de la IA industrial, debemos reconocer en primer lugar que los "avances" de la IA celebrados en la última década no se debieron a avances científicos fundamentales en las técnicas de IA. Fueron y son principalmente el producto de una concentración significativa de datos y recursos de computación que residen en las manos de unas pocas grandes corporaciones tecnológicas. La IA moderna depende fundamentalmente de los recursos y las prácticas comerciales de las empresas, y nuestra creciente dependencia de dicha IA cede...

https://ethics.harvard.edu/how-ai-fails-us La visión dominante de la inteligencia artificial imagina un futuro de sistemas autónomos a gran escala que superan a los humanos en una gama cada vez mayor de campos. Esta visión de la "IA realmente existente" malinterpreta la inteligencia como autónoma en lugar de social y relacional. Es improductiva y peligrosa, ya que optimiza las métricas artificiales de la réplica humana en lugar de aumentar el sistema, y tiende a concentrar el poder, los recursos y la toma de decisiones en una élite de ingenieros.  Las visiones alternativas basadas en la participación y el aumento de la creatividad y la cooperación humanas tienen una larga historia y son la base de muchas tecnologías digitales célebres, como los ordenadores personales e Internet.  Los investigadores y los financiadores deberían reorientar la atención desde la inteligencia general autónoma centralizada hacia una pluralidad de enfoques establecidos y emergentes que amplíen las t...

https://www.carnegiecouncil.org/studio/multimedia/20211103-honest-scientific-discourse-ai-deep-learning-gary-marcus Empezaré diciendo que mi primer amor verdadero es entender la mente -¿cómo consigue la mente humana hacer las cosas que hace?-, muchas de las cuales son impresionantes, pero no todas lo son, por lo que una vez escribí un libro llamado Kluge, que trata de las formas en que la mente no es muy impresionante. Pero en la última década me he centrado principalmente en la inteligencia artificial, que en realidad era mi interés cuando era un niño. Así que volví y completé el círculo de mis primeros intereses, pero ahora mirando la inteligencia artificial a través del estudio de la mente. Y no me ha gustado mucho lo que he visto. Primero me quedé al margen escribiendo sobre el tema, y luego decidí entrar realmente en el campo de la IA y empezar a crear empresas. Vendí la primera. Sigo intentando comprender cómo podemos crear una IA que sea al menos tan, digamos, fiable como los se...

https://www.slideshare.net/dmonett/monett-2021-unibremen

https://www.theverge.com/2021/10/20/22734215/ai-ask-delphi-moral-ethical-judgement-demo ¿Tienes un dilema moral que no sabes cómo resolver? ¿Te apetece empeorarlo? Por qué no recurrir a la sabiduría de la inteligencia artificial, también conocida como Ask Delphi: un interesante proyecto de investigación del Instituto Allen de Inteligencia Artificial que ofrece respuestas a dilemas éticos al tiempo que demuestra de forma maravillosamente clara por qué no debemos confiar al software las cuestiones de moralidad. Ask Delphi se lanzó el 14 de octubre, junto con un documento de investigación que describe cómo se hizo. Sin embargo, desde el punto de vista del usuario, el sistema es seductoramente sencillo de utilizar. Basta con entrar en el sitio web, describir cualquier situación que se pueda imaginar y Delphi emitirá un juicio moral. "Es malo", o "es aceptable", o "es bueno", y así sucesivamente. CADA RESPUESTA DEL ORÁCULO AI INCLUYE UN BOTÓN PARA "COMPART...

https://www.linkedin.com/pulse/whats-fundamentally-wrong-ai-azamat-abdoullaev/ La Inteligencia Artificial con la Robótica está preparada para cambiar nuestro mundo de arriba a abajo, prometiendo ayudar a resolver algunos de los problemas más acuciantes del mundo, desde la asistencia sanitaria hasta la economía, pasando por la predicción de crisis globales y las respuestas oportunas. https://www.weforum.org/agenda/2019/01/to-eliminate-human-bias-from-ai-we-need-to-rethink-our-approach/   Pero al adoptar, integrar e implementar las tecnologías de IA, como dice un informe de Deloitte, alrededor del 94% de las empresas se enfrentan a posibles problemas. Este artículo no trata de los problemas de la IA, como la falta de conocimientos técnicos, la adquisición y el almacenamiento de datos, el aprendizaje por transferencia, la costosa mano de obra, los retos éticos o legales, la adicción a los grandes datos, la velocidad de cálculo, la caja negra, la estrecha especialización, los mitos y l...

https://spectrum.ieee.org/rodney-brooks-ai ESTAMOS EN LA TERCERA OLA DE GRANDES INVERSIONES EN INTELIGENCIA ARTIFICIAL. Así que es un buen momento para adoptar una perspectiva histórica sobre el éxito actual de la IA. En los años sesenta, los primeros investigadores de la IA solían predecir con entusiasmo que las máquinas inteligentes de nivel humano estaban a sólo 10 años de distancia. Esa forma de IA se basaba en el razonamiento lógico con símbolos y se llevaba a cabo con lo que hoy parecen ordenadores digitales ridículamente lentos. Esos mismos investigadores consideraron y rechazaron las redes neuronales. Este artículo forma parte de nuestro informe especial sobre la IA, "The Great AI Reckoning". En la década de 1980, la segunda era de la IA se basó en dos tecnologías: los sistemas expertos basados en reglas -una forma más heurística de razonamiento lógico basado en símbolos- y un resurgimiento de las redes neuronales provocado por la aparición de nuevos algoritmos de ent...

https://spectrum.ieee.org/deep-learning-computational-cost EL APRENDIZAJE PROFUNDO SE UTILIZA AHORA PARA TRADUCIR ENTRE IDIOMAS, PREDECIR EL PLIEGO DE LAS PROTEÍNAS, ANALIZAR EXPLORACIONES MÉDICAS Y JUGAR A JUEGOS TAN COMPLEJOS COMO EL GOL, por nombrar sólo algunas aplicaciones de una técnica que se está generalizando. El éxito en estos y otros ámbitos ha llevado a esta técnica de aprendizaje automático de la oscuridad a principios de la década de 2000 a su dominio actual. Aunque el ascenso a la fama del aprendizaje profundo es relativamente reciente, sus orígenes no lo son. En 1958, cuando los ordenadores centrales llenaban las salas y funcionaban con tubos de vacío, el conocimiento de las interconexiones entre las neuronas del cerebro inspiró a Frank Rosenblatt, de Cornell, a diseñar la primera red neuronal artificial, que describió prescientemente como un "dispositivo de reconocimiento de patrones". Pero las ambiciones de Rosenblatt superaban las capacidades de su época, y...

https://arxiv.org/abs/2110.01963 Hemos entrado en la era de los modelos de aprendizaje automático de un billón de parámetros entrenados en conjuntos de datos de mil millones de tamaño extraídos de Internet. El aumento de estos conjuntos de datos gigantescos ha dado lugar a un formidable conjunto de trabajos críticos que han pedido precaución al generar estos grandes conjuntos de datos. En ellos se aborda la preocupación por las dudosas prácticas de curación utilizadas para generar estos conjuntos de datos, la sórdida calidad de los datos de texto alternativo disponibles en la red mundial, el problemático contenido del conjunto de datos CommonCrawl, utilizado a menudo como fuente para el entrenamiento de grandes modelos lingüísticos, y los arraigados sesgos de los modelos visolingüísticos a gran escala (como el modelo CLIP de OpenAI) entrenados en conjuntos de datos opacos (WebImageText). Con el telón de fondo de estas llamadas de atención específicas, examinamos el conjunto de datos LA...

https://spectrum.ieee.org/rodney-brooks-ai ESTAMOS EN LA TERCERA OLA DE GRANDES INVERSIONES EN INTELIGENCIA ARTIFICIAL. Así que es un buen momento para adoptar una perspectiva histórica sobre el éxito actual de la IA. En los años sesenta, los primeros investigadores de la IA solían predecir con entusiasmo que las máquinas inteligentes de nivel humano estaban a sólo 10 años de distancia. Esa forma de IA se basaba en el razonamiento lógico con símbolos y se llevaba a cabo con lo que hoy parecen ordenadores digitales ridículamente lentos. Esos mismos investigadores consideraron y rechazaron las redes neuronales. Este artículo forma parte de nuestro informe especial sobre la IA, "The Great AI Reckoning". En la década de 1980, la segunda era de la IA se basó en dos tecnologías: los sistemas expertos basados en reglas -una forma más heurística de razonamiento lógico basado en símbolos- y un resurgimiento de las redes neuronales provocado por la aparición de nuevos algoritmos de ent...

https://www.theguardian.com/commentisfree/2021/oct/02/the-truth-about-artificial-intelligence-it-isnt-that-honest?CMP=fb_a-technology_b-gdntech Somos, como observó el crítico George Steiner, "animales del lenguaje". Quizá por eso nos fascinan otras criaturas que parecen tener lenguaje: delfines, ballenas, simios, aves, etc. En su fascinante libro Atlas of AI, Kate Crawford relata cómo, a finales del siglo XIX, Europa quedó cautivada por un caballo llamado Hans que, al parecer, podía resolver problemas matemáticos, decir la hora, identificar los días de un calendario, diferenciar tonos musicales y deletrear palabras y frases golpeando sus cascos. Incluso el serio New York Times quedó cautivado, llamándolo "el maravilloso caballo de Berlín; puede hacer casi todo menos hablar". Por supuesto, era una tontería: el caballo estaba entrenado para captar señales sutiles de lo que su dueño quería que hiciera. Pero, como dice Crawford, la historia es convincente: "la rela...

https://ada-magazin.com/en/progress-is-not-digital La inteligencia artificial se disfraza de progreso futurista. Pero, en realidad, no sólo es inexacto, sino también opresivo. Para lograr un progreso real, el público necesita recuperar el control. La ciencia nos permitió liberarnos de los miedos místicos a lo desconocido poniendo a prueba nuestras suposiciones mediante la observación. El método científico es lo que nos permite avanzar como sociedad, y afrontar retos enormes, como que haya un nuevo virus mortal. Los virus no pueden comunicarse a través del mundo, nosotros sí. Y en un año, no sólo sabemos lo que nos estaba matando, sino que tenemos más de una solución para detenerlo. Este es un ejemplo de la belleza y la capacidad de escapar del miedo que nos aporta la ciencia. Sin embargo, la aparición de números y máquinas por sí solas no son ciencia. Eso no es más que un teatro para tratar de hacernos creer que la persona es omnisciente y todopoderosa.

https://spectrum.ieee.org/ai-failures La INTELIGENCIA ARTIFICIAL podría actuar con mayor rapidez, precisión, fiabilidad e imparcialidad que los humanos en una amplia gama de problemas, desde la detección del cáncer hasta la decisión de quién recibe una entrevista de trabajo. Pero las IA también han sufrido numerosos fallos, a veces mortales. Y la creciente ubicuidad de la IA significa que los fallos pueden afectar no sólo a individuos, sino a millones de personas. Cada vez más, la comunidad de la IA está catalogando estos fallos con vistas a controlar los riesgos que pueden suponer. "Suele haber muy poca información para que los usuarios entiendan cómo funcionan estos sistemas y lo que significa para ellos", dice Charlie Pownall, fundador del Repositorio de Incidentes y Controversias sobre IA, Algoritmos y Automatización. "Creo que esto afecta directamente a la confianza en estos sistemas. Hay muchas razones posibles por las que las organizaciones son reacias a entrar en...

https://www.bostonglobe.com/2021/09/10/opinion/qa-whats-dumb-about-smart-cities/ Hace tiempo que se habla de las ciudades inteligentes. Al fin y al cabo, tiene sentido intentar utilizar las tecnologías de la información y la comunicación para mejorar los servicios públicos y aumentar el bienestar de las comunidades urbanas. Por desgracia, los proyectos piloto han sido decepcionantes. Por ejemplo, Sidewalk Labs, propiedad de la empresa matriz de Google, planeó en 2017 transformar una sección de Toronto en un "campo de pruebas" para el futuro de la vida urbana. El Wi-Fi público cubriría la zona, y los datos recogidos por los sensores del distrito ayudarían a tomar decisiones sobre el tráfico y la vivienda. Pero el año pasado, después de que los residentes de la ciudad plantearan preguntas sobre la privacidad de los datos y el papel de una empresa privada en la gobernanza, el proyecto fue abandonado -aunque la razón oficial aducida fue la incertidumbre económica derivada de la p...

https://link.springer.com/article/10.1007/s13347-021-00466-3 En esta introducción se exponen los objetivos y el alcance del número especial y se ofrece una visión general de cada uno de los artículos de investigación y los comentarios que siguen. En la última década, la investigación sobre la inteligencia artificial (IA) ha salido de la sombra de un largo invierno de desprecio y se ha convertido en un cálido verano de esperanza y exageración. Aunque los académicos y los defensores de la IA han documentado minuciosamente los riesgos y los posibles perjuicios de la utilización de herramientas y técnicas basadas en la IA en una serie de ámbitos sociales, persiste la idea de que el poder prometido de la IA podría ser aprovechado funcionalmente y éticamente para fines "socialmente buenos" o, al menos, (re)orientado hacia ellos. El doble objetivo de este número especial es, sencillamente, cuestionar la plausibilidad de esta noción y considerar sus implicaciones. La idea de que la I...