LA PANDEMIA, LAS PRESTACIONES SOCIALES Y LA TOMA DE DECISIONES AUTOMATIZADA (ADM) ¿SÓLO PORQUE SEA MÁS RÁPIDO UTILIZAR UNA MÁQUINA, ES COHERENTE CON EL PRINCIPIO DE NO DISCRIMINACIÓN?

https://ai-lawhub.com/2021/04/19/the-pandemic-social-benefits-and-automated-decision-making-adm-just-because-it-is-quicker-to-use-a-machine-is-it-consistent-with-the-principle-of-non-discrimination/

Por un lado, parece una idea muy preocupante que las máquinas sean las únicas que tomen decisiones gubernamentales importantes sobre nuestros negocios, nuestras finanzas personales o nuestra seguridad.  Sin duda, si esas decisiones "salen como queremos", probablemente no nos importará demasiado el proceso en sí, ya que las decisiones rápidas y bien recibidas siempre serán aplaudidas.  Pero, ¿cómo nos sentimos cuando las decisiones que se toman sobre nosotros, por una máquina, van en nuestro detrimento o pueden estar relacionadas con características protegidas como el sexo o la raza?  ¿Nos estamos perdiendo algo si aceptamos con demasiada facilidad las decisiones de las máquinas simplemente porque tienen la ventaja de ser rápidas?


En este blog analizamos la reciente sentencia del Tribunal Administrativo en el caso R (o.t.a The Motherhood Plan) contra el Tesoro de Su Majestad[1] (Motherhood), en el que se sostiene que el Gobierno puede justificar un sistema de prestaciones potencialmente discriminatorio basado en el ADM como legítimo porque es más rápido, más barato y supuestamente más sencillo. 


Es posible que la conclusión de Motherhood sea un caso aislado y una respuesta legítima a las necesidades de emergencia del gobierno en la pandemia; pero, si no es así, y se considera que Motherhood tiene una aplicación más amplia, parece abrir la puerta a más y más gobierno por máquina. 


Entonces, ¿de qué se trata la Maternidad? 


El 30 de abril de 2020, justo cuando la pandemia se afianzaba, el Tesoro introdujo el Régimen de Ayuda a la Renta de los Autónomos (SEISS)[2], que pretendía ser un salvavidas para los autónomos cuyo negocio se había hundido, ofreciéndoles una subvención imponible.  Para tener derecho a la subvención, el Tesoro exigía que los solicitantes demostraran que se habían visto afectados negativamente "por la emergencia sanitaria, social y económica en el Reino Unido derivada del coronavirus y la enfermedad del coronavirus".

Comentarios

Popular

Herramientas de Evaluación de Sistemas Algorítmicos

Sistemas multiagentes: Desafíos técnicos y éticos del funcionamiento en un grupo mixto

Controversias éticas en torno a la privacidad, la confidencialidad y el anonimato en investigación social