Los bancos enfrentan desafíos de equidad al comprometerse con la tecnología de IA

Un informe de la Unidad de Inteligencia de The Economist (EIU) dijo que el sesgo de datos que conduce a la discriminación contra individuos o grupos era uno de los riesgos más importantes para los bancos que utilizan la tecnología.

La IA actualmente ocupa un lugar destacado en la agenda bancaria y la interrupción causada por Covid-19 ha "intensificado" su adopción en el sector, según la EIU. Los bancos están utilizando IA para crear servicios bancarios más personalizados para los clientes, para automatizar los procesos administrativos y para mantenerse al día con los desarrollos en los bancos retadores digitales, pioneros en inteligencia artificial en el sector.

Pero los bancos deberán garantizar decisiones éticas, justas y bien documentadas basadas en la inteligencia artificial, dijo la IA supervisora ​​de EIU: gobernar la inteligencia artificial en el informe bancario. Dijo que las decisiones tomadas por las computadoras deben seguir siendo éticas, sin prejuicios, y estas decisiones deben ser explicables.

Para lograr estos objetivos, la IA debe ser ética por diseño, los datos deben ser monitoreados por su precisión e integridad, los procesos de desarrollo deben estar bien documentados y los bancos deben asegurarse de tener el nivel adecuado de habilidades.

Pete Swabey, director editorial para Europa, Medio Oriente y África (EMEA) - Thought Leadership en la EIU, dijo: “La IA es vista como un diferenciador competitivo clave en el sector. Nuestro estudio, basándose en la orientación dada por los reguladores de todo el mundo, destaca los desafíos clave de gobernanza que los bancos deben abordar si quieren capitalizar la oportunidad de IA de manera segura y ética ".

Una posible falta de supervisión humana es una preocupación importante, según la EIU. Dijo que reclutar y capacitar a personas con las habilidades adecuadas debería ser una prioridad: "Los bancos deben garantizar el nivel adecuado de experiencia en inteligencia artificial en todo el negocio para construir y mantener modelos de inteligencia artificial, así como supervisar estos modelos".

https://www-computerweekly-com.cdn.ampproject.org/c/s/www.computerweekly.com/news/252486227/Banks-face-fairness-challenges-as-they-commit-to-AI-technology?amp=1

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad Deep Learning (@forodeeplearn). 

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.