7 FORMAS REVELADORAS DEL FRACASO DE LOS AI

https://spectrum.ieee.org/ai-failures

La INTELIGENCIA ARTIFICIAL podría actuar con mayor rapidez, precisión, fiabilidad e imparcialidad que los humanos en una amplia gama de problemas, desde la detección del cáncer hasta la decisión de quién recibe una entrevista de trabajo. Pero las IA también han sufrido numerosos fallos, a veces mortales. Y la creciente ubicuidad de la IA significa que los fallos pueden afectar no sólo a individuos, sino a millones de personas.

Cada vez más, la comunidad de la IA está catalogando estos fallos con vistas a controlar los riesgos que pueden suponer. "Suele haber muy poca información para que los usuarios entiendan cómo funcionan estos sistemas y lo que significa para ellos", dice Charlie Pownall, fundador del Repositorio de Incidentes y Controversias sobre IA, Algoritmos y Automatización. "Creo que esto afecta directamente a la confianza en estos sistemas. Hay muchas razones posibles por las que las organizaciones son reacias a entrar en el meollo de lo que sucedió exactamente en un incidente o controversia de IA, no siendo la menor la potencial exposición legal, pero si se mira a través de la lente de la confianza, es en su mejor interés hacerlo."

Este artículo forma parte de nuestro informe especial sobre la IA, "The Great AI Reckoning".

Parte del problema es que la tecnología de redes neuronales que impulsa muchos sistemas de IA puede averiarse de formas que siguen siendo un misterio para los investigadores. "Es imprevisible en qué problemas será buena la inteligencia artificial, porque no entendemos muy bien la inteligencia en sí misma", dice el informático Dan Hendrycks, de la Universidad de California, Berkeley.

He aquí siete ejemplos de fracasos de la IA y qué debilidades actuales revelan sobre la inteligencia artificial. Los científicos discuten posibles formas de abordar algunos de estos problemas; otros actualmente desafían la explicación o pueden, filosóficamente hablando, carecer de una solución concluyente por completo.