Qué hacer cuando la IA falla

La IA se basa en el aprendizaje. El COVID-19 ha presentado situaciones de las que no había ejemplos. La IA debe tener planes de contingencia y ser responsable de las consecuencias, pero es difícil.

¿Qué hace a la IA diferente de los sistemas de software tradicionales? ¿Por qué incluso pensar en la respuesta a incidentes de manera diferente en el mundo de la IA? Las respuestas se reducen a tres razones principales, que también pueden existir en otros grandes sistemas de software, pero se exacerban en la IA. Lo primero y más importante es la tendencia de la IA a decaer con el tiempo. El segundo es la tremenda complejidad de la IA. Y por último, la naturaleza probabilística de las estadísticas y el aprendizaje automático (ML).

Plantea la forma de afrontar los incidentes en la iA, que también pueden tener consecuencias legales.


Adaptado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial  y Editor de Actualidad Deep Learning (@forodeeplearn)

Comentarios

Popular

Es hora de que la IA se explique

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

Gemelos digitales, cerebros virtuales y los peligros del lenguaje