¿Por qué importa la IA explicable de todos modos?

 A medida que la inteligencia artificial (IA) se vuelve cada vez más omnipresente en nuestra vida diaria; Al tomar decisiones vitales sobre nuestra atención médica, pagos de préstamos, empleo, libertad condicional, seguridad, entretenimiento y más, es importante que sepamos cómo AI está tomando las decisiones.

La demanda de transparencia en la IA está aumentando después de que salieron a la luz una serie de faltas críticas. Los accidentes automovilísticos autónomos, la negación injusta de la libertad condicional, los prejuicios de género en la contratación laboral, la discriminación racial en el reconocimiento de imágenes o la consideración del aire muy contaminado como seguro para respirar, han provocado críticas a la tecnología. Por el contrario, la IA líder de inspiración biológica (llamada aprendizaje profundo) es conocida por su naturaleza opaca de "caja negra" que es difícil de interpretar para los humanos.

Esto sucede principalmente porque la inteligencia surge a través de interacciones complejas entre millones de unidades computacionales que no son fáciles de rastrear. La brecha entre la demanda de IA transparente y la oferta de IA de caja negra ha dado lugar a una nueva disciplina de IA conocida como IA explicable (XAI).

https://www.techopedia.com/why-does-explainable-ai-matter-anyway/2/34432