4 razones por las que la IA explicable es el futuro de la IA

https://www.cmswire.com/digital-experience/4-reasons-why-explainable-ai-is-the-future-of-ai/

La inteligencia artificial explicable, o XAI, es similar a una aplicación de IA normal, salvo que los procesos y resultados de un algoritmo de XAI pueden explicarse para que los entiendan los humanos. La naturaleza compleja de la inteligencia artificial significa que la IA toma decisiones en tiempo real basándose en los conocimientos que ha descubierto en los datos que se le han proporcionado. Si no entendemos bien cómo la IA toma estas decisiones, no podemos optimizar la aplicación de la IA para que sea todo lo que puede hacer. La XAI permite a las personas comprender cómo se utilizan la IA y el aprendizaje automático (ML) para tomar decisiones, realizar predicciones y obtener información. La IA explicable permite a las marcas ser transparentes en su uso de las aplicaciones de IA, lo que aumenta la confianza de los usuarios y la aceptación general de la IA.

Por qué y dónde necesitamos la IA explicable

Existe una necesidad válida de XAI si la IA se va a utilizar en todos los sectores. Según un informe de FICO, el 65% de los empleados encuestados no podía explicar cómo se determinan las decisiones o predicciones del modelo de IA. Los beneficios de la XAI están empezando a ser bien reconocidos, y no sólo por los científicos e ingenieros de datos. El proyecto de reglamento de IA de la Unión Europea especifica la XAI como requisito previo para la eventual normalización del aprendizaje automático en la sociedad. Organizaciones de normalización como el Instituto Europeo de Normas de Telecomunicaciones (ETSI) y la Asociación de Normas del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE SA) también reconocen la importancia de la XAI en relación con la aceptación y la confianza en la IA en el futuro.