La necesidad de una garantía de IA eficaz

https://cdei.blog.gov.uk/2021/04/15/the-need-for-effective-ai-assurance/

Las tecnologías basadas en datos, como la inteligencia artificial (IA), tienen el potencial de generar beneficios significativos para nuestra economía y nuestra sociedad. Sin embargo, también introducen riesgos que deben gestionarse.

A medida que estas tecnologías se adoptan más ampliamente, existe una necesidad cada vez mayor de que una variedad de actores, incluidos reguladores, desarrolladores, ejecutivos y usuarios de primera línea, verifiquen que estas herramientas estén funcionando como se espera, de una manera que cumpla con los estándares (incluyendo regulación), y para demostrarlo a otros. Sin embargo, estos actores a menudo tienen información limitada o carecen del conocimiento especializado adecuado para garantizar que los sistemas de IA sean confiables. Para abordar esta brecha de información, se requiere un ecosistema de garantía de IA eficaz.

La garantía como servicio se basa originalmente en la profesión contable, pero desde entonces se ha adaptado para cubrir muchas áreas, como la seguridad cibernética y la gestión de la calidad. En estas áreas, los ecosistemas maduros de productos y servicios de aseguramiento permiten que las personas comprendan si los sistemas son confiables. Estos productos y servicios incluyen: estándares técnicos y de proceso; auditorías repetibles; esquemas de certificación; servicios de asesoramiento y formación.

Este ecosistema está surgiendo para la IA, con una variedad de empresas que comienzan a ofrecer servicios de garantía. Se han propuesto varias técnicas de garantía posibles y los reguladores están comenzando a establecer cómo se puede garantizar la IA (por ejemplo, el Marco de auditoría de la ICO para la IA). Sin embargo, este ecosistema está actualmente fragmentado y ha habido varios pedidos para una mejor coordinación, incluso del Comité de Normas en la Vida Pública. Nuestra revisión publicada recientemente sobre el sesgo en la toma de decisiones algorítmicas también señaló la necesidad de un ecosistema de estándares de la industria y servicios profesionales para ayudar a las organizaciones a abordar el sesgo algorítmico en el Reino Unido y más allá.