Inteligencia artificial simbólica exacta para una evaluación más rápida y mejor de la equidad de la IA

https://news.mit.edu/2021/exact-symbolic-artificial-intelligence-faster-better-assessment-ai-fairness-0809

https://dl.acm.org/doi/10.1145/3453483.3454078

El sistema judicial, los bancos y las empresas privadas utilizan algoritmos para tomar decisiones que tienen un profundo impacto en la vida de las personas. Desgraciadamente, esos algoritmos a veces son parciales y afectan de forma desproporcionada a las personas de color y a las de menor nivel de ingresos cuando solicitan préstamos o trabajos, o incluso cuando los tribunales deciden qué fianza debe fijarse mientras una persona espera el juicio.

Los investigadores del MIT han desarrollado un nuevo lenguaje de programación de inteligencia artificial que puede evaluar la equidad de los algoritmos con mayor exactitud y rapidez que las alternativas disponibles.

Su lenguaje probabilístico de suma-producto (SPPL) es un sistema de programación probabilística. La programación probabilística es un campo emergente en la intersección de los lenguajes de programación y la inteligencia artificial que pretende hacer que los sistemas de IA sean mucho más fáciles de desarrollar, con éxitos iniciales en la visión por ordenador, la limpieza de datos con sentido común y el modelado de datos automatizado. Los lenguajes de programación probabilísticos facilitan a los programadores la definición de modelos probabilísticos y la inferencia probabilística, es decir, el trabajo hacia atrás para inferir explicaciones probables de los datos observados.

"Hay sistemas anteriores que pueden resolver varias cuestiones de equidad. Nuestro sistema no es el primero, pero como está especializado y optimizado para una determinada clase de modelos, puede ofrecer soluciones miles de veces más rápidas", afirma Feras Saad, estudiante de doctorado en ingeniería eléctrica e informática (EECS) y primer autor de un artículo reciente que describe el trabajo. Saad añade que los aumentos de velocidad no son insignificantes: El sistema puede ser hasta 3.000 veces más rápido que los enfoques anteriores.