IA Explicable

-
Define en qué consiste la IA explicable. Detalla cómo funcionan las redes neuronales y qué significan los resultados.

¿por qué la IA explicable es tan importante?

  • para una adopción amplia
  • para la confianza de los usuarios en los sistemas
  • por las restricciones legales
  • por el impacto de los resultados si se utiliza en áreas críticas como la medicina
  • para tener más impacto en los negocios/investigación y en la toma de decisiones
https://towardsdatascience.com/explainable-artificial-intelligence-14944563cc79

Conferencia del Instituto Turing sobre IA Explicable
https://www.youtube.com/watch?v=EVl5iMpX1cg&feature=youtu.be


Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)

Comentarios

Publicar un comentario

Popular

Tesla admite que es posible que nunca logre autos totalmente autónomos

-
https://www.fastcompany.com/90630440/tesla-admits-it-may-never-achieve-full-self-driving-cars?partner=rss&utm_campaign=rss+fastcompany&utm_content=rss&utm_medium=feed&utm_source=rss Una presentación reciente ante la Comisión de Bolsa y Valores incluye lenguaje en el que se reconoce que es posible que la empresa nunca logre automóviles completamente autónomos, el invento que ha sido su gran ballena blanca durante años. Después del informe de ganancias del primer trimestre de Tesla el lunes, el analista y usuario de Twitter Gordon Johnson señaló que la presentación 10-Q de la compañía tiene en sus factores de riesgo la siguiente declaración: “Estamos desarrollando tecnologías de conducción autónoma y de asistencia al conductor que se basan en sensores basados ​​en la visión, a diferencia de las tecnologías alternativas en desarrollo que, además, requieren otros sensores redundantes. No hay garantía de que cualquier cambio incremental en el equipo específico que implementa...
Leer más

Cada modelo aprendido por pendiente de gradiente es aproximadamente una máquina de kernel

-
 Los éxitos del aprendizaje profundo a menudo se atribuyen a su capacidad para descubrir automáticamente nuevas representaciones de los datos, en lugar de depender de características hechas a mano como otros métodos de aprendizaje. Sin embargo, mostramos que las redes profundas aprendidas por el algoritmo de descenso de gradiente estándar son de hecho matemáticamente aproximadamente equivalentes a las máquinas kernel, un método de aprendizaje que simplemente memoriza los datos y los usa directamente para la predicción a través de una función de similitud (el kernel). Esto mejora enormemente la interpretabilidad de las ponderaciones de redes profundas, al aclarar que son efectivamente una superposición de los ejemplos de entrenamiento. La arquitectura de la red incorpora el conocimiento de la función de destino en el kernel. Esta mejor comprensión debería conducir a mejores algoritmos de aprendizaje. https://arxiv.org/abs/2012.00152
Leer más

Confianza y fiabilidad en la XAI - Distinción entre medidas actitudinales y conductuales

-
https://www.researchgate.net/publication/359435718_Trust_and_Reliance_in_XAI_-_Distinguishing_Between_Attitudinal_and_Behavioral_Measures/fulltext/623be1c48f081a732fb9a968/Trust-and-Reliance-in-XAI-Distinguishing-Between-Attitudinal-and-Behavioral-Measures.pdf?origin=publication_detail La confianza se cita a menudo como un criterio esencial para el uso eficaz y el despliegue en el mundo real de la IA. Los investigadores sostienen que la IA debe ser más transparente para aumentar la confianza, por lo que la transparencia es uno de los principales objetivos de la XAI. Sin embargo, la investigación empírica sobre este tema no es concluyente en cuanto al efecto de la transparencia sobre la confianza. Una explicación de esta ambigüedad podría ser que la confianza se operativiza de forma diferente en la XAI. En este documento de posición, abogamos por una clara distinción entre las medidas conductuales (objetivas) de la confianza y las medidas actitudinales (subjetivas) de la confianza. Sin ...
Leer más