Actualidad Deep Learning

https://montrealethics.ai/against-interpretability-a-critical-examination/ "Explicabilidad", "transparencia", "interpretabilidad"... son términos que se emplean de distintas maneras en el ecosistema de la IA. De hecho, a menudo oímos que debemos hacer que la IA sea más "interpretable" y/o más "explicable".  En cambio, el autor de este artículo cuestiona la idea de que la "interpretabilidad" y otros conceptos similares deban ser valores o requisitos para la IA. En primer lugar, parece que estos conceptos no son realmente claros desde el punto de vista intuitivo ni técnicamente aplicables. En segundo lugar, la mayoría de las veces se proponen no como valores en sí mismos, sino como medios para alcanzar otros objetivos valiosos (por ejemplo, la equidad o el respeto a la privacidad de los usuarios). Por ello, el autor defiende que, en lugar de centrar nuestra atención en la "interpretabilidad" o la "explicabilidad...

https://www.sciencedirect.com/science/article/abs/pii/S0895435621003541 Examinar el papel de la explicabilidad en el aprendizaje automático para la atención sanitaria (MLHC), y su necesidad e importancia con respecto a la aplicación efectiva y ética de MLHC. Diseño y entorno del estudio Este comentario se centra en el creciente y dinámico corpus de literatura sobre el uso de la MLHC y la inteligencia artificial (IA) en medicina, que proporciona el contexto para una revisión narrativa centrada en los argumentos presentados a favor y en contra de la explicabilidad en la MLHC. Resultados Descubrimos que las preocupaciones relativas a la explicabilidad no se limitan a la MLHC, sino que se extienden a numerosas intervenciones terapéuticas bien validadas, así como al propio juicio clínico humano. Examinamos el papel de la medicina basada en la evidencia en la evaluación de tratamientos y tecnologías inexplicables, y destacamos la analogía entre el concepto de explicabilidad en la MLHC y el c...

https://www.cpomagazine.com/data-privacy/carnegie-mellon-university-end-users-deserve-right-to-explanation-about-how-algorithmic-decision-making-models-profile-them/ Las redes sociales y el sector de la publicidad en Internet se basan ahora casi por completo en modelos algorítmicos de toma de decisiones que intentan determinar quién es el usuario final, cómo funciona su mente y a qué será más receptivo (y a qué se dedicará). Investigadores de la Universidad Carnegie Mellon, tras un análisis de estos modelos publicado en Business Ethics Quarterly, abogan ahora por el "derecho a la explicación" para arrojar luz sobre estos modelos secretos que influyen en el estado de ánimo, el comportamiento e incluso las acciones de millones de personas en todo el mundo cada día. - Publicidad - Los investigadores examinan esta propuesta de derecho en el marco de las normas existentes del Reglamento General de Protección de Datos (RGPD), estableciendo una comparación con el establecido "d...

https://www.cmswire.com/digital-experience/4-reasons-why-explainable-ai-is-the-future-of-ai/ La inteligencia artificial explicable, o XAI, es similar a una aplicación de IA normal, salvo que los procesos y resultados de un algoritmo de XAI pueden explicarse para que los entiendan los humanos. La naturaleza compleja de la inteligencia artificial significa que la IA toma decisiones en tiempo real basándose en los conocimientos que ha descubierto en los datos que se le han proporcionado. Si no entendemos bien cómo la IA toma estas decisiones, no podemos optimizar la aplicación de la IA para que sea todo lo que puede hacer. La XAI permite a las personas comprender cómo se utilizan la IA y el aprendizaje automático (ML) para tomar decisiones, realizar predicciones y obtener información. La IA explicable permite a las marcas ser transparentes en su uso de las aplicaciones de IA, lo que aumenta la confianza de los usuarios y la aceptación general de la IA. Por qué y dónde necesitamos la IA ex...

https://www.atlanticcouncil.org/in-depth-research-reports/report/specifying-normative-content/ Los investigadores, las empresas, los responsables políticos y el público en general son conscientes de que el uso de la inteligencia artificial (IA) y de los macrodatos plantea problemas de justicia, privacidad, autonomía, transparencia y responsabilidad. Se espera que las organizaciones aborden cada vez más estas y otras cuestiones éticas. En respuesta, muchas empresas, organizaciones no gubernamentales y entidades gubernamentales han adoptado marcos y principios de ética de la IA o de los datos con el fin de demostrar el compromiso de abordar los retos que plantea la IA y, sobre todo, orientar los esfuerzos de las organizaciones para desarrollar e implementar la IA de forma social y éticamente responsable. Sin embargo, articular los valores, los conceptos éticos y los principios generales es sólo el primer paso -y en muchos sentidos el más fácil- para abordar los retos de la IA y la ética ...

https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...

https://hai.stanford.edu/news/should-ai-models-be-explainable-depends Los sistemas de inteligencia artificial capaces de diagnosticar el cáncer, leer imágenes médicas o sugerir una medicación adecuada suelen tener mala fama por ser incapaces de explicarse: Cuando se les pregunta, sólo ofrecen una caja negra sobre cómo logran su éxito. Por ello, algunos médicos se preguntan si se debe confiar en estas herramientas de IA. Pero los modelos de IA no necesitan ser interpretables para ser útiles, dice Nigam Shah, profesor de medicina (informática biomédica) y de ciencia de los datos biomédicos en la Universidad de Stanford y miembro de la facultad afiliada al Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford. Esto es especialmente cierto en medicina, dice, donde los médicos ofrecen habitualmente tratamientos sin saber cómo o por qué funcionan. "De los 4.900 medicamentos que se prescriben de forma rutinaria, no sabemos del todo cómo funcionan realmente la mayoría...

  https://hai.stanford.edu/news/should-ai-models-be-explainable-depends?utm_source=twitter&utm_medium=social&utm_content=Stanford%20HAI_twitter_StanfordHAI_202104071230_sf141835232&utm_campaign=&sf141835232=1 Los sistemas de inteligencia artificial que pueden diagnosticar cáncer, leer imágenes médicas o sugerir un medicamento apropiado a menudo reciben una mala reputación por no poder explicarse: cuando se les investiga, solo ofrecen una caja negra sobre cómo lograr su éxito. Como resultado, algunos médicos se preguntan si se debe confiar en estas herramientas de IA. Pero los modelos de IA no necesitan ser interpretables para ser útiles, dice Nigam Shah, profesor de medicina (informática biomédica) y de ciencia de datos biomédicos en la Universidad de Stanford y miembro de la facultad afiliado del Instituto de Stanford para la Inteligencia Artificial Centrada en el Humano. Eso es especialmente cierto en la medicina, dice, donde los médicos ofrecen tratamientos rutin...

https://arxiv.org/pdf/2103.14651.pdf La necesidad y la suficiencia son los componentes básicos de todas las explicaciones acertadas. Sin embargo, a pesar de su importancia, estas nociones han sido conceptualmente subdesarrolladas y aplicadas de manera inconsistente en inteligencia artificial explicable (XAI), un área de investigación en rápido crecimiento que hasta ahora carece de bases teóricas firmes. Construyendo sobre el trabajo en lógica, probabilidad y causalidad, establecemos la papel central de la necesidad y la suficiencia en XAI, unificando métodos aparentemente dispares en un solo marco formal. Ofrecemos un algoritmo sólido y completo para calcular factores explicativos. con respecto a un contexto dado, y demostrar su flexibilidad y desempeño competitivo contra alternativas de vanguardia en diversas tareas.

https://jme.bmj.com/content/early/2021/03/18/medethics-2020-106820 El uso de algoritmos de caja negra en medicina ha suscitado preocupaciones entre los académicos debido a su opacidad y falta de confiabilidad. Las preocupaciones sobre el sesgo potencial, la rendición de cuentas y la responsabilidad, la autonomía del paciente y la confianza comprometida se transmiten con los algoritmos de caja negra. Estas preocupaciones conectan preocupaciones epistémicas con cuestiones normativas. En este artículo, describimos que los algoritmos de caja negra son menos problemáticos por razones epistémicas de lo que muchos estudiosos parecen creer. Al señalar que no siempre es necesaria una mayor transparencia en los algoritmos, y al explicar que los procesos computacionales son de hecho metodológicamente opacos para los humanos, argumentamos que la confiabilidad de los algoritmos proporciona razones para confiar en los resultados de la inteligencia artificial médica (IA). Con este fin, explicamos cóm...

https://jpt.spe.org/deep-learning-doesnt-need-to-be-a-black-box https://arxiv.org/abs/2002.01650 La percepción cultural de la IA a menudo es sospechosa debido a los desafíos de saber por qué una red neuronal profunda hace sus predicciones. Entonces, los investigadores intentan abrir esta caja negra después de que una red está capacitada para correlacionar los resultados con las entradas. Pero, ¿qué pasaría si el objetivo de la explicabilidad se pudiera diseñar en la arquitectura de la red, antes de que se entrene el modelo y sin reducir su poder predictivo? Quizás la caja podría permanecer abierta desde el principio.

https://www.academia.edu/43177641/The_in_credibility_of_algorithmic_models_to_non_experts?email_work_card=title El rápido desarrollo y difusión del análisis de datos. técnicas permiten la creación de algoritmos cada vez más intrincados modelos. Tales modelos son simultáneamente el vehículo y el resultado de las prácticas de cuantificación y encarnan una cosmovisión con normas y valores asociados. Se requiere un conjunto de habilidades especializadas para crear, utilizar o interpretar modelos algorítmicos. La mecánica de un El modelo algorítmico puede ser difícil de comprender para los expertos y puede ser prácticamente incomprensible para los no expertos. Esto es de consecuencia porque tal boxeo negro puede introducir poder asimetrías y pueden ocultar sesgos. Este documento explora el prácticas a través de las cuales expertos y no expertos determinan la credibilidad de los modelos algorítmicos. Concluye que (1) transparencia para (no) expertos es, en el mejor de los casos, problemático...

 A medida que la inteligencia artificial (IA) se vuelve cada vez más omnipresente en nuestra vida diaria; Al tomar decisiones vitales sobre nuestra atención médica, pagos de préstamos, empleo, libertad condicional, seguridad, entretenimiento y más, es importante que sepamos cómo AI está tomando las decisiones. La demanda de transparencia en la IA está aumentando después de que salieron a la luz una serie de faltas críticas. Los accidentes automovilísticos autónomos, la negación injusta de la libertad condicional, los prejuicios de género en la contratación laboral, la discriminación racial en el reconocimiento de imágenes o la consideración del aire muy contaminado como seguro para respirar, han provocado críticas a la tecnología. Por el contrario, la IA líder de inspiración biológica (llamada aprendizaje profundo) es conocida por su naturaleza opaca de "caja negra" que es difícil de interpretar para los humanos. Esto sucede principalmente porque la inteligencia surge a travé...

 Descripción general: el artículo aclara cómo puede ser la evaluación en sistemas algorítmicos, incluido cuándo se llevan a cabo las actividades de evaluación, quién debe participar, las piezas que se evalúan y la madurez de las técnicas. También explica los términos clave utilizados en el campo e identifica las lagunas en los métodos actuales en lo que respecta a los factores mencionados anteriormente. https://montrealethics.ai/examining-the-black-box-tools-for-assessing-algorithmic-systems-research-summary/

 El campo de la inteligencia artificial (IA) ha creado computadoras que pueden conducir automóviles, sintetizar compuestos químicos, doblar proteínas y detectar partículas de alta energía a un nivel sobrehumano. Sin embargo, estos algoritmos de IA no pueden explicar los procesos de pensamiento detrás de sus decisiones. Una computadora que domina el plegado de proteínas y también les dice a los investigadores más sobre las reglas de la biología es mucho más útil que una computadora que dobla las proteínas sin explicación. Por lo tanto, los investigadores de IA como yo ahora estamos enfocando nuestros esfuerzos en desarrollar algoritmos de IA que puedan explicarse de una manera que los humanos puedan entender. Si podemos hacer esto, creo que la IA podrá descubrir y enseñar a las personas nuevos hechos sobre el mundo que aún no se han descubierto, lo que conducirá a nuevas innovaciones. Un robot humanoide leyendo un libro. Cuando se deja que las máquinas aprendan y resuelvan problemas...

 Después de que el gobierno holandés se derrumbara por el escándalo de las prestaciones para niños la semana pasada, la cuestión del control humano significativo sobre los sistemas de inteligencia artificial es ahora más urgente que nunca. El informático y Master en Ética y Tecnología Scott Robbins (1984) escribió su tesis doctoral sobre aprendizaje automático y contraterrorismo. Concluye que las decisiones que requieren una explicación (por qué dispararon a este hombre, por qué almacenan mis datos, por qué me acusan de fraude) no deben delegarse en máquinas impulsadas por IA. Esta idea fundamental sobre el "control humano significativo" va más allá de la guerra contra el terrorismo. ¿Por qué eligió el contraterrorismo como tema de estudio? “Quería un contexto donde el gol sea bueno. La lucha contra el terrorismo es un objetivo indudablemente bueno. No queremos que los terroristas hagan daño a personas inocentes. Entonces, a partir de este buen objetivo, quería intentar compr...

 Estraordinaria entrevista donde se habla de la autonomía de las personas ante la IA, de la ley, de la explicabiidad y sobre todo de la Agencia Humana frente o mediada por la IA. Hace una llamada a empezar a debatir y regular. https://opiniojuris.org/2020/11/25/the-time-has-come-for-international-regulation-on-artificial-intelligence-an-interview-with-andrew-murray/

Incertidumbre, desconfianza. La incertidumbre es parte de la vida, virus desconfianza  Vacuna triple E Explicabilidad, ser transparente y comprensible, mostrar las posibilidades y los riesgos Ética, hacer las cosas bien, bien común  Ejemplaridad de los políticos  A partir del min 19 https://play.cadenaser.com/audio/1604833987_968925/ Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.

 El Instituto Nacional de Estándares y Tecnología (“NIST”) ha publicado el primer borrador de los Cuatro Principios de la Inteligencia Artificial Explicable (NISTIR 8312), un libro blanco que busca definir los principios que capturan las propiedades fundamentales de los sistemas de IA explicables. El Copresidente de la Iniciativa AI Lee Tiedrich, Sam Choi y James Yoon discuten el borrador, junto con otros desarrollos legislativos relacionados con NIST, en The Journal of Robotics, Artificial Intelligence and Law. Para obtener más información, visite nuestro kit de herramientas de inteligencia artificial. https://www.insidetechmedia.com/2020/11/04/nist-solicits-comments-on-four-principles-of-explainable-artificial-intelligence-and-other-developments/ Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente...

 Explicabilidad es algo muy amplio. El artículo muestra 5 preguntas a hacerse para afrontar la explicabilidad: ¿A quién hay que explicar? diferentes interesados ¿Qué explicar? Lista de objetivos y razones para explicar ?Cómo explicar? Diferentes métodos de explicación ¿Cuando explicar? Antes o después del desarrollo ¿Cuales son las técnicas de explicación? Taxonomía de diferentes técnicas https://towardsdatascience.com/five-critical-questions-to-explain-explainable-ai-e0c40bdca368 Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn). Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.