Actualidad Deep Learning

https://link.springer.com/article/10.1007/s43681-022-00167-3?s=03#Sec3 Resumen ¿Cómo pueden los seres humanos mantener el control de los sistemas basados en la inteligencia artificial (IA) diseñados para realizar tareas de forma autónoma? Estos sistemas son cada vez más omnipresentes, lo que genera ventajas, pero también situaciones indeseables en las que la responsabilidad moral de sus acciones no puede atribuirse adecuadamente a ninguna persona o grupo en particular. Se ha propuesto el concepto de control humano significativo para abordar las lagunas de responsabilidad y mitigarlas estableciendo condiciones que permitan atribuir adecuadamente la responsabilidad a los seres humanos; sin embargo, todavía no existen requisitos claros para los investigadores, diseñadores e ingenieros, lo que dificulta el desarrollo de sistemas basados en la IA que permanezcan bajo un control humano significativo. En este artículo abordamos la brecha existente entre la teoría filosófica y la práctica de l...

https://venturebeat.com/2022/03/21/andrew-ng-predicts-the-next-10-years-in-ai/ Andrew Ng Estamos encantados de volver a traer Transform 2022 en persona el 19 de julio y virtualmente del 20 al 28 de julio. Únase a los líderes de la IA y de los datos para asistir a charlas interesantes y a emocionantes oportunidades de establecer contactos. Inscríbase hoy mismo. ¿Alguna vez ha sentido que estaba harto de su línea de trabajo actual y quería cambiar de marcha? Si es así, no está solo. Sin embargo, además de participar en la Gran Dimisión, también hay enfoques menos radicales, como el que está adoptando Andrew Ng. Ng, una de las figuras más destacadas de la IA, es fundador de LandingAI y DeepLearning.AI, copresidente y cofundador de Coursera, y profesor adjunto de la Universidad de Stanford. También fue jefe científico de Baidu y fundador del proyecto Google Brain. Sin embargo, su prioridad actual ha cambiado, pasando de los "bits a las cosas", como él dice. Omniverso de Nvidia: C...

https://www.sciencealert.com/ai-can-predict-people-s-race-from-medical-images-and-scientists-are-concerned Los modelos de aprendizaje profundo basados en la inteligencia artificial pueden identificar la raza de alguien solo a partir de sus radiografías, según ha revelado una nueva investigación, algo que sería imposible para un médico humano que mirara las mismas imágenes. Los resultados plantean algunas cuestiones preocupantes sobre el papel de la IA en el diagnóstico, la evaluación y el tratamiento médicos: ¿podría el software informático aplicar involuntariamente un sesgo racial al estudiar imágenes como estas? Tras haber entrenado su IA con cientos de miles de imágenes de rayos X etiquetadas con detalles de la raza del paciente, un equipo internacional de investigadores sanitarios de EE.UU., Canadá y Taiwán probó su sistema con imágenes de rayos X que el software informático no había visto antes (y del que no tenía información adicional). La IA pudo predecir la identidad racial del...

https://www.theguardian.com/technology/2022/may/17/mastercard-launches-smile-to-pay-amid-privacy-concerns?CMP=share_btn_tw Mastercard está poniendo en marcha un controvertido programa que permitirá a los compradores pagar en la caja con una simple sonrisa o un gesto de la mano, en su intento de hacerse con una parte del mercado de la biometría, de 18.000 millones de dólares (14.400 millones de libras). Aunque la tecnología de reconocimiento facial ha suscitado desde hace tiempo las dudas de los grupos de defensa de los derechos civiles, el gigante de los pagos ha declarado que sigue adelante con un programa de pago biométrico que, según afirma, acelerará los pagos, reducirá las colas y proporcionará más seguridad que una tarjeta de crédito o débito estándar. "Una vez inscritos, no es necesario ralentizar la cola de la caja buscando en los bolsillos o en el bolso", dijo Mastercard. "Los consumidores pueden simplemente comprobar la factura y sonreír a una cámara o pasar la...

https://english.rekenkamer.nl/publications/reports/2022/05/18/an-audit-of-9-algorithms-used-by-the-dutch-government El uso responsable de los algoritmos por parte de los organismos públicos es posible, pero no siempre es así en la práctica. El Tribunal de Cuentas de los Países Bajos descubrió que 3 de los 9 algoritmos que auditó cumplían todos los requisitos básicos, pero los otros 6 no lo hacían y exponían al gobierno a diversos riesgos: desde el control inadecuado del rendimiento y el impacto del algoritmo hasta el sesgo, la filtración de datos y el acceso no autorizado.

https://philpapers.org/archive/DANTAA-8.pdf ¿Qué es el tecno-optimismo y cómo se puede defender? Aunque los puntos de vista tecnooptimistas son ampliamente adoptados y criticados, ha habido pocos intentos de analizar sistemáticamente lo que significa ser tecnooptimista y cómo se puede defender este punto de vista. Este artículo trata de subsanar esta carencia proporcionando un análisis y una evaluación exhaustivos del tecno-optimismo. Se argumenta que el tecno-optimismo es una postura plural que se presenta en formas débiles y fuertes. Éstas varían en función de una serie de dimensiones clave, pero cada una de ellas comparte la opinión de que la tecnología desempeña un papel fundamental a la hora de garantizar que lo bueno prevalezca sobre lo malo. Sea cual sea su fuerza, para defender esta postura hay que desarrollar un argumento con cuatro premisas clave. Cada una de estas premisas es muy controvertida y puede ser objeto de varias críticas. El documento analiza en detalle cinco de es...

https://www.npr.org/2022/05/12/1098601458/artificial-intelligence-job-discrimination-disabilities?s=03 El gobierno federal dijo el jueves que la tecnología de inteligencia artificial para seleccionar nuevos candidatos a un puesto de trabajo o supervisar la productividad de los trabajadores puede discriminar injustamente a las personas con discapacidad, enviando una advertencia a los empleadores de que las herramientas de contratación comúnmente utilizadas podrían violar las leyes de derechos civiles. El Departamento de Justicia de Estados Unidos y la Comisión para la Igualdad de Oportunidades en el Empleo emitieron conjuntamente una guía para que los empleadores tengan cuidado antes de utilizar las populares herramientas algorítmicas destinadas a agilizar el trabajo de evaluación de los empleados y las perspectivas de empleo, pero que también podrían infringir la Ley de Estadounidenses con Discapacidades. "Estamos haciendo sonar una alarma con respecto a los peligros vinculados a ...

https://techpolicy.press/artifice-and-intelligence/?s=03 Las palabras importan. A partir de hoy, el Centro de Privacidad dejará de utilizar los términos "inteligencia artificial", "IA" y "aprendizaje automático" en nuestro trabajo para exponer y mitigar los daños de las tecnologías digitales en la vida de las personas y las comunidades. Trataré de explicar lo que está en juego para nosotros en esta decisión con referencia al documento fundacional de Alan Turing, Computing Machinery and Intelligence, que es, por supuesto, más famoso por su descripción de lo que el propio documento llama "el juego de imitación", pero que ha llegado a ser conocido popularmente como "la prueba de Turing". En el juego de imitación participan dos personas (una de las cuales adopta el papel de "interrogador") y un ordenador. El objetivo es que el interrogador, separado físicamente del otro jugador y del ordenador, intente discernir mediante una serie...

https://garymarcus.substack.com/p/the-new-science-of-alt-intelligence?s=03 Durante muchas décadas, parte de la premisa de la IA fue que la inteligencia artificial debía inspirarse en la inteligencia natural. John McCarthy, uno de los cofundadores de la IA, escribió artículos pioneros sobre por qué la IA necesitaba el sentido común; Marvin Minsky, otro de los cofundadores del campo de la IA, escribió un libro en el que se analizaba la mente humana en busca de inspiración y pistas sobre cómo construir una mejor IA. Herb Simon ganó el Premio Nobel de Economía del Comportamiento. Uno de sus libros clave se titulaba Models of Thought (Modelos de pensamiento), cuyo objetivo era explicar que "los lenguajes informáticos recién desarrollados expresan teorías de procesos mentales, de modo que los ordenadores pueden simular el comportamiento humano previsto". A una gran parte de los investigadores actuales de la IA, o al menos a los que están en el poder, no les importa (hasta donde yo ...

https://www.technologyreview.com/2022/04/18/1049331/bitcoin-cryptocurrency-cryptomining-new-york/?s=03 La criptodivisa se crea mediante ordenadores que resuelven complicadas ecuaciones matemáticas, un proceso que despegó después de que una empresa china llamada Bitmain empezara a vender en 2016 una máquina con circuitos integrados de aplicación específica que permitía realizar esta computación especializada mucho más rápidamente. "Casi de la noche a la mañana", dice Colin Read, profesor de economía y finanzas en la Universidad Estatal de Nueva York en Plattsburgh, "comenzó una carrera armamentística de criptominería". Publicidad Cada transacción de Bitcoin consume 1.173 kilovatios-hora La gente comenzó a buscar en el mundo fuentes de energía baratas para hacer funcionar grandes granjas de minería de Bitcoin utilizando estos circuitos. La criptomoneda devora notoriamente la electricidad; cada transacción de Bitcoin consume 1.173 kilovatios-hora, más de lo que un esta...

https://spectrum.ieee.org/kai-fu-lee-ai-jobs El reputado informático y experto en IA Kai-Fu Lee ve probable que se produzcan trastornos en los próximos 15 o 20 años, debido a que los sistemas "inteligentes" crearán puestos de trabajo en campos para los que los trabajadores desplazados por la IA no están bien formados. EMPRESAS DE SINOVACIÓN      Hay un movimiento en marcha para contrarrestar las narrativas distópicas y apocalípticas de la inteligencia artificial. A algunas personas del sector les preocupa que el hecho de que se hable con frecuencia de la IA como un riesgo existencial para la humanidad esté envenenando al público en contra de la tecnología y están presentando deliberadamente relatos más esperanzadores. Uno de estos esfuerzos es un libro que se publicó el pasado otoño titulado AI 2041: Ten Visions for Our Future. El libro está coescrito por Kai-Fu Lee, un experto en IA que dirige la empresa de capital riesgo Sinovation Ventures, y Chen Qiufan, un autor...

https://learn.g2.com/ai-ethics?s=03 La inteligencia artificial (IA) se está convirtiendo en algo omnipresente en nuestra vida cotidiana.  Aunque no sea consciente de ello, la IA está integrada en muchas de las tecnologías que utiliza habitualmente. Cuando Netflix te recomienda un programa que podría gustarte, o Google te sugiere que reserves un viaje online desde el aeropuerto en el que sueles volar, la inteligencia artificial está involucrada. De hecho, el noventa y uno por ciento de las empresas actuales quieren invertir en IA. Aunque la IA pueda parecer extremadamente técnica, rozando el nivel de la ciencia ficción, en última instancia no es más que una herramienta. Y como cualquier herramienta, puede utilizarse para bien o para mal. Por lo tanto, a medida que la IA va asumiendo tareas cada vez más sofisticadas, es importante asegurarse de que existe un marco ético para su correcto uso. Profundicemos un poco más en las preocupaciones clave que rodean a la ética en la IA, algunos...

https://apnews.com/article/technology-discrimination-artificial-intelligence-e1bcf4a2e7f1b671cbf3a44bc99b3656?s=03 El gobierno federal dijo el jueves que la tecnología de inteligencia artificial para seleccionar nuevos candidatos a un puesto de trabajo o supervisar la productividad de los trabajadores puede discriminar injustamente a las personas con discapacidad, enviando una advertencia a los empleadores de que las herramientas de contratación comúnmente utilizadas podrían violar las leyes de derechos civiles. El Departamento de Justicia de Estados Unidos y la Comisión para la Igualdad de Oportunidades en el Empleo emitieron conjuntamente una guía para que los empleadores tengan cuidado antes de utilizar las populares herramientas algorítmicas destinadas a agilizar el trabajo de evaluación de los empleados y las perspectivas de empleo, pero que también podrían infringir la Ley de Estadounidenses con Discapacidades. "Estamos haciendo sonar una alarma con respecto a los peligros v...

https://www.seattletimes.com/opinion/look-behind-the-curtain-dont-be-dazzled-by-claims-of-artificial-intelligence/?s=03 Actualmente vivimos en la era de la "inteligencia artificial", pero no como las empresas que venden "IA" quieren hacer creer. Según Silicon Valley, las máquinas están superando rápidamente el rendimiento humano en una variedad de tareas, desde las mundanas, pero bien definidas y útiles, como la transcripción automática, hasta habilidades mucho más vagas como la "comprensión de lectura" y la "comprensión visual". Según algunos, estas habilidades representan incluso un rápido progreso hacia la "Inteligencia General Artificial", o sistemas que son capaces de aprender nuevas habilidades por sí mismos. Ante estas grandes afirmaciones, en última instancia falsas, necesitamos una cobertura mediática que exija responsabilidades a las empresas tecnológicas. Con demasiada frecuencia, lo que obtenemos en su lugar es un reportaje ...

https://www.protocol.com/enterprise/zoom-emotion-ai-aclu-rights?s=03 La IA de las emociones utiliza la visión por ordenador y el reconocimiento facial, el reconocimiento del habla, el procesamiento del lenguaje natural y otras tecnologías de IA para capturar datos que representan las expresiones externas de las personas en un esfuerzo por detectar sus emociones, actitudes o sentimientos internos. "El uso de este software por parte de Zoom da crédito a la pseudociencia del análisis de las emociones que, según los expertos, no funciona. Las expresiones faciales pueden variar significativamente y a menudo están desconectadas de las emociones subyacentes de tal manera que incluso los humanos a menudo no son capaces de descifrarlas con precisión", continuaron. "Da la sensación de que son una empresa que está abierta a considerar todos estos factores", dijo Seeley George sobre Zoom. Dijo que Zoom no ha respondido a las solicitudes de la organización para discutir el tema....

https://spectrum.ieee.org/artificial-intelligence-in-government Cuando una familia de los Países Bajos quería reclamar la ayuda gubernamental para el cuidado de los niños, tenía que presentar una solicitud a la autoridad fiscal holandesa. Esas solicitudes pasaban por un algoritmo de autoaprendizaje, implantado inicialmente en 2013. En el flujo de trabajo de la Agencia Tributaria, el algoritmo examinaba primero las solicitudes en busca de indicios de fraude, y los humanos analizaban las solicitudes que marcaban como de alto riesgo. En realidad, el algoritmo desarrolló una pauta para etiquetar falsamente las reclamaciones como fraudulentas, y los atareados funcionarios sellaron las etiquetas de fraude. Así, durante años, la administración tributaria ordenó infundadamente a miles de familias que devolvieran sus reclamaciones, empujando a muchos a una deuda onerosa y destruyendo vidas en el proceso. "Cuando hay un impacto dispar, tiene que haber un debate social en torno a esto, si es...

https://thegradient.pub/how-aristotle-is-fixing-deep-learnings-flaws/?s=03   ¿Quién puede negar la fría brisa que sopla en algunos sectores del mundo de la IA? Mientras muchos siguen disfrutando del glorioso verano que supone el ascenso del aprendizaje profundo, algunos perciben vientos otoñales que llevan consigo palabras de advertencia que todos hemos oído muchas veces, como "caja negra", "mala generalización", "frágil", "carente de razonamiento", "sesgada", "sin sentido común" e "insostenible". Tanto si nos dirigimos realmente a un nuevo invierno de la IA como si no, la inteligencia artificial tiene ciertamente un largo camino que recorrer para enfrentarse a la inteligencia humana. Sin embargo, la inteligencia humana no es un tema de investigación especialmente nuevo. Ha sido estudiada durante mucho tiempo por muchos de los intelectos más agudos de la humanidad, remontándose al menos 2300 años atrás a Aristóteles,...

https://www.thebulwark.com/how-ai-is-being-transformed-by-foundation-models/?s=03 En el mundo de la informática y la inteligencia artificial, pocos temas están generando tanto interés como el auge de los llamados "modelos fundacionales". Estos modelos pueden considerarse meta-AI -pero no Meta-AI, si se entiende lo que quiero decir-, sistemas que incorporan vastas redes neuronales con conjuntos de datos aún mayores. Son capaces de procesar mucho pero, lo que es más importante, son fácilmente adaptables a todos los ámbitos de la información, acortando y simplificando lo que hasta ahora era un laborioso proceso de entrenamiento de los sistemas de IA. Si los modelos fundacionales cumplen su promesa, la IA podría tener un uso comercial mucho más amplio. Para dar una idea de la escala de estos algoritmos, GPT-3, un modelo básico para el procesamiento del lenguaje natural publicado hace dos años, contiene más de 170.000 millones de parámetros, las variables que guían las funciones d...

https://doi.org/10.1038/d41586-022-01191-3 Los algoritmos de aprendizaje automático que generan un lenguaje fluido a partir de grandes cantidades de texto podrían cambiar la forma de hacer ciencia, pero no necesariamente para mejor, afirma Shobita Parthasarathy, especialista en gobernanza de tecnologías emergentes de la Universidad de Michigan en Ann Arbor. En un informe publicado el 27 de abril, Parthasarathy y otros investigadores tratan de anticipar las repercusiones sociales de las nuevas tecnologías de inteligencia artificial (IA) denominadas grandes modelos lingüísticos (LLM). Estos modelos pueden producir una prosa asombrosamente convincente, traducir entre idiomas, responder a preguntas e incluso producir código. Las empresas que los construyen -entre ellas Google, Facebook y Microsoft- pretenden utilizarlos en chatbots y motores de búsqueda, así como para resumir documentos. (Al menos una empresa, Ought, de San Francisco (California), está probando los LLM en la investigación...

https://www.sciencedirect.com/science/article/abs/pii/S1071581922000751?s=09 Los avances tecnológicos en el ámbito de los asistentes virtuales allanan el camino para implementar agentes autónomos complejos como los chatbots de diagnóstico. Partiendo del supuesto de que los chatbots son percibidos como herramientas tecnológicas y actores sociales a la vez, nuestro objetivo es crear una comprensión profunda de los procesos de creación de confianza hacia los chatbots de diagnóstico en comparación con la confianza en los profesionales médicos. Llevamos a cabo un experimento de laboratorio en el que los participantes interactuaron o bien con un chatbot de diagnóstico o bien con un profesional de la telemedicina adicional antes de entrevistarlos principalmente sobre los factores de creación de confianza. Identificamos numerosos factores relacionados con el software, el usuario y el entorno, y derivamos un modelo del proceso inicial de creación de confianza. Los resultados apoyan nuestra hipó...