Los algoritmos gubernamentales están socavando la democracia; abramos su diseño a la gente

Los algoritmos parecen estar en retroceso en el Reino Unido, por ahora. Los gobiernos nacionales no solo cambiaron recientemente su uso de algoritmos para asignar las calificaciones de los que abandonan la escuela, sino que numerosas autoridades locales también han eliminado tecnología similar utilizada para tomar decisiones sobre beneficios y otros servicios de bienestar. En muchos de estos casos, esto se debió a que se descubrió que los algoritmos conducían a resultados sesgados e injustos.

Pero, ¿por qué nadie se dio cuenta de que estos algoritmos producirían resultados tan dañinos antes de que salieran al mundo real haciendo un daño real? La respuesta puede ser que el público no esté adecuadamente representado en los procesos de desarrollo e implementación de nuevos sistemas. Esto no solo aumenta las posibilidades de que las cosas salgan mal, sino que también socava la confianza pública en el gobierno y su uso de datos, lo que limita las oportunidades para que los algoritmos se utilicen para el bien en el futuro.

A medida que los algoritmos se utilizan cada vez más en formas que cambian la forma en que las personas acceden a los servicios y restringen sus opciones de vida, existen riesgos de que estos nuevos sistemas opacos reduzcan la responsabilidad y alteren fundamentalmente las relaciones públicas con el gobierno. En esencia, esta es una amenaza para la democracia. 

https://theconversation.com/government-algorithms-are-undermining-democracy-lets-open-up-their-design-to-the-people-145515

Editado por Aniceto Pérez y Madrid, Especialista en Ética de la Inteligencia Artificial y Editor de Actualidad Deep Learning (@forodeeplearn).

Los artículos publicados son incluidos por su estimada relevancia y no expresan necesariamente los puntos de vista del Editor este Blog.