Actualidad Deep Learning

https://iep.utm.edu/ethic-ai/ Este artículo ofrece una visión general de las principales cuestiones éticas relacionadas con el impacto de la Inteligencia Artificial (IA) en la sociedad humana. La IA es el uso de máquinas para hacer cosas que normalmente requerirían inteligencia humana. En muchos ámbitos de la vida humana, la IA ha afectado rápida y significativamente a la sociedad humana y a la forma en que nos relacionamos. Y seguirá haciéndolo. A lo largo del camino, la IA ha planteado importantes retos éticos y sociopolíticos que exigen un análisis filosófico y ético exhaustivo. Su impacto social debe ser estudiado para evitar cualquier repercusión negativa. Los sistemas de IA son cada vez más autónomos, aparentemente racionales e inteligentes. Este amplio desarrollo da lugar a numerosas cuestiones. Además del daño potencial y el impacto de las tecnologías de IA en nuestra privacidad, otras preocupaciones incluyen su estatus moral y legal (incluyendo los derechos morales y legales),...

https://www.tue.nl/en/our-university/departments/biomedical-engineering/the-department/news/news-overview/16-03-2021-why-ethics-should-be-integral-part-of-artificial-intelligence/?twclid=11428270583956090887 Gran parte de la IA actual consiste en encontrar patrones estadísticos en datos históricos para hacer valiosas predicciones para el futuro. Sin embargo, cada vez hay más pruebas de que el uso de algoritmos, incluida la elaboración de perfiles raciales, puede perjudicar gravemente a sectores vulnerables de la sociedad, incluso cuando no hay una intención explícita de discriminación. Preguntamos a Mykola Pechenizkiy, profesor de Minería de Datos en la Universidad Tecnológica de Eindhoven y uno de los pioneros en IA ética, sobre sus esfuerzos para que la IA sea justa y responsable. "Debemos dejar de culpar a los datos y hacer que la IA sea digna de confianza por su diseño". El 15 de enero de 2021, el gobierno holandés dimitió, justo dos meses antes de las elecciones generale...

https://www.newyorker.com/tech/annals-of-technology/who-should-stop-unethical-ai En ciencias de la computación, los principales medios para la investigación revisada por pares no son revistas sino conferencias, donde los artículos aceptados se presentan en forma de charlas o carteles. En junio de 2019, en una gran conferencia de inteligencia artificial en Long Beach, California, llamada Visión por computadora y reconocimiento de patrones, me detuve a mirar un póster de un proyecto llamado Speech2Face. Utilizando el aprendizaje automático, los investigadores habían desarrollado un algoritmo que generaba imágenes de rostros a partir de grabaciones de voz. Una buena idea, pensé, pero con resultados nada impresionantes: en el mejor de los casos, las caras coincidían con el sexo, la edad y la etnia de los hablantes, atributos que un oyente casual podría adivinar. Ese diciembre, vi un cartel similar en otro gran A.I. conferencia, Sistemas de procesamiento de información neuronal (Neurips), e...

 Los desarrolladores de inteligencia artificial siempre han tenido un aire de "Mago de Oz". Detrás de una cortina magistral, realizan hazañas asombrosas que parecen otorgar cerebros algorítmicos a los espantapájaros computarizados de este mundo. La prueba de Turing de IA se centró en la hechicería necesaria para engañarnos y hacernos pensar que los espantapájaros podrían ser humanos de carne y hueso (si ignoramos las pajitas sueltas que brotan de sus pantalones). Sin embargo, estoy de acuerdo con el argumento expresado recientemente por Rohit Prasad, científico jefe de Amazon para Alexa, quien sostiene que el marco del "juego de imitación" de Alan Turing ya no es relevante como un gran desafío para los profesionales de la inteligencia artificial. [También en InfoWorld: Aplicación de devops en ciencia de datos y aprendizaje automático] Creando una nueva prueba de Turing para IA ética Prasad señala que hacerse pasar por diálogos en lenguaje natural ya no es un objetiv...

 La “auditoría algorítmica” es el nuevo tema candente desde las salas de juntas hasta los laboratorios de inteligencia artificial y los pasillos de varios edificios gubernamentales. Las auditorías, el arma más reciente en el arsenal de IA responsable, se han convertido en una palanca mediante la cual las corporaciones, los legisladores y los expertos en IA ética compiten por influir sobre esta tecnología. Sin embargo, perdido en la mezcla está lo que es exactamente una auditoría. Nuestro campo no tiene definiciones claras del término; los reguladores y los formuladores de políticas aún no han aprobado pautas claras sobre lo que implica una auditoría (aunque múltiples políticas las exigen); ninguna industria ha creado todavía una metodología estándar para las auditorías de IA; ningún organismo normativo ha publicado uno que se utilice habitualmente. Tenemos algunas incursiones en las "evaluaciones de impacto", puede considerarlas "audit lite", lo que proporciona algú...

 La inteligencia artificial está preparada para alterar todos los principales mercados y sistemas sociales. Ya sea para bien o para mal, no es la cuestión. En cambio, las preguntas son de quién será la vida mejor y peor, de qué manera y bajo qué reglas o condiciones. En las condiciones adecuadas, la IA puede ser muy beneficiosa y una fuerza positiva. Sin embargo, en condiciones inadecuadas, la IA puede provocar una discriminación generalizada y reforzar las disparidades socioeconómicas existentes. El uso de la IA en la atención médica ofrece un ejemplo de estas tensiones: un algoritmo diseñado para orientar las intervenciones médicas a los pacientes más enfermos tuvo el efecto involuntario de canalizar recursos a una población blanca más saludable, en detrimento de los pacientes negros más enfermos. El uso de la IA también puede provocar invasiones de la privacidad y concentraciones peligrosas de poder. La tecnología de reconocimiento facial es un buen ejemplo. Puede usarse para en...

  Gabriela Ramos es la responsable de sacar adelante la Declaración Universal de la Inteligencia Artificial que prepara la Unesco. Su objetivo: que nadie quede desamparado ante los posibles efectos negativos de la tecnología. https://retina.elpais.com/retina/2020/12/22/tendencias/1608655621_852613.html

 La investigación del aprendizaje automático está creciendo rápidamente y los sistemas están cambiando las prácticas anteriores de corporaciones, gobiernos, comunidades, individuos y entornos. En este contexto, los valores de la investigación de ML han tenido una influencia enorme. Los investigadores suelen argumentar que el AA es una herramienta apolítica y neutral en cuanto a valores, que se centra en las consecuencias positivas o enfatiza los valores en las declaraciones de ética de la IA. Para descubrir los valores subyacentes del campo, llevamos a cabo una anotación detallada de docenas de artículos de ML muy influyentes publicados en conferencias destacadas. Presentamos un análisis cuantitativo y una discusión cualitativa de las justificaciones declaradas de los artículos, valores y consecuencias negativas. Encontramos que la mayoría de estos artículos no mencionan ni una necesidad social ni consecuencias negativas. En cambio, estos artículos se evalúan a sí mismos de acuerdo...

 Manual de ética en robótica e IA Este libro ofrece una introducción a la ética de los robots y la inteligencia artificial. El libro fue escrito pensando en estudiantes universitarios, políticos y profesionales, pero debería ser accesible para la mayoría de los adultos. El libro está destinado a proporcionar puntos de vista equilibrados y, a veces, contradictorios sobre los beneficios y los déficits de la IA a través de la lente de la ética. Como se analiza en los capítulos siguientes, las cuestiones éticas a menudo no se cortan y secan. Las naciones, las comunidades y las personas pueden tener perspectivas únicas e importantes sobre estos temas que deben ser escuchadas y consideradas. Si bien las voces que componen este libro son las nuestras, hemos intentado representar las opiniones de las comunidades más amplias de IA, robótica y ética. https://link.springer.com/content/pdf/10.1007%2F978-3-030-51110-4.pdf

En un año que ha visto décadas de conmociones globales, malas noticias y escándalos comprimidos en 12 meses insoportablemente largos, el verano ya se siente como un recuerdo lejano. En agosto de 2020, el mundo estaba inmerso en un importante movimiento de justicia social y racial, y con suerte dije en VentureBeat que el término “IA ética” finalmente estaba empezando a significar algo. https://venturebeat.com/2020/12/19/how-to-create-space-for-ethics-in-ai/

 la gente tiene la sensación de que los desafíos de la IA son muy únicos, mientras que yo veo los desafíos más como una amplificación de los desafíos existentes. Hay preguntas con las que hemos estado lidiando durante mucho tiempo, y la IA las amplifica. Debido a que con la IA todo es más grande y más rápido, pone más luz sobre los desafíos existentes que siempre estuvieron ahí, pero quizás menos evidentes. https://ieai.mcts.tum.de/wp-content/uploads/2020/12/Reflections-on-AI-Ethics_Y-LanBoureau_V3.pdf

 Tome esto: se dice que vender análisis de video como "vigilancia en una caja" democratiza la vigilancia de alta potencia. ¿Por qué democratizar? Dado que comprar el software es mucho más barato que contratar analistas de video, la vigilancia se vuelve accesible y asequible para una base de clientes mucho mayor. Y esto es lo que se entiende por "democratizar la IA": hacer que la IA sea accesible para quienes la deseen. Si seguimos esta línea de razonamiento, las herramientas de IA de arrastrar y soltar representan la "IA más democrática". Algunas personas los elogian como herramientas de aprendizaje automático automatizadas sin código que son fáciles de usar incluso si "eres menos técnico" o no tienes ningún conocimiento técnico. La primera pregunta es: ¿Realmente queremos que la IA sea accesible para todos? Respuesta corta: no. https://dorotheabaur.medium.com/no-we-dont-want-to-democratize-ai-c5b481db5afa

 Un grupo creciente de abogados está descubriendo, navegando y luchando contra los sistemas automatizados que niegan la vivienda, el empleo y los servicios básicos deficientes. https://www.technologyreview.com/2020/12/04/1013068/algorithms-create-a-poverty-trap-lawyers-fight-back/

Magnífica publicación sobre la Ética en la IA.  ¿Cuál es el futuro de la IA en los Países Bajos? Esa es una pregunta que es casi imposible de responder. Porque: ¿qué es exactamente la IA, qué escenarios futuros existen y quién determina "lo que queremos" y sobre qué base? La tercera parte de la trilogía STT "el futuro de la IA" se centra en esa tercera cuestión normativa. El objetivo es generar una amplia discusión social sobre este tema, porque la IA nos tocará a todos de una forma u otra: directamente, como usuarios de aplicaciones, pero también indirectamente, cuando otras personas y organizaciones utilicen la IA, por ejemplo, los médicos que dejan escanear se analizan algorítmicamente para poder hacer un diagnóstico. Esto no es ciencia ficción; mucho de eso ya es posible. Incluso hoy en día, el impacto de la IA es significativo y se espera que el impacto solo aumente. Por eso es bueno centrarse explícitamente en las opciones éticas y sociales asociadas. https://...

 La investigación sobre la ética de los algoritmos ha crecido sustancialmente durante la última década. Junto al desarrollo exponencial y aplicación de algoritmos de aprendizaje automático, nuevos problemas éticos y Se han propuesto soluciones relacionadas con su uso ubicuo en la sociedad. Este artículo se basa en una revisión de la ética de los algoritmos publicado en 2016 (Mittelstadt et al. 2016). Los golas deben contribuir a el debate sobre la identificación y análisis de las implicaciones éticas de los algoritmos, para proporcionar una análisis actualizado de preocupaciones epistémicas y normativas, y para ofrecer una guía práctica para el gobernanza del diseño, desarrollo y despliegue de algoritmos. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3662302 Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresa...