El gobierno se apresura a implementar la inteligencia artificial, pero ¿a qué costo para nuestra libertad?
El gobierno de los Estados Unidos se está embarcando en una carrera a toda velocidad para desarrollar y desplegar inteligencia artificial en nombre de la seguridad nacional, pero sus planes para proteger los derechos civiles y las libertades civiles apenas han tomado forma. Basado en un nuevo y amplio informe de una comisión ordenada por el Congreso, está claro que las agencias de inteligencia y las fuerzas armadas de EE. UU. Buscan integrar la inteligencia artificial en algunas de las decisiones más profundas del gobierno: a quién vigila, a quién agrega a las listas de vigilancia del gobierno, a quién etiqueta. un "riesgo" para la seguridad nacional, e incluso contra quién se dirige con armas letales.
En muchas de estas áreas, el despliegue de la IA ya parece estar bastante avanzado. Pero no sabemos casi nada sobre los sistemas específicos que están usando agencias como el FBI, el Departamento de Seguridad Nacional, la CIA y la Agencia de Seguridad Nacional, y mucho menos sobre las salvaguardas que existen, si las hay.
Es por eso que la ACLU está presentando una solicitud de la Ley de Libertad de Información (FOIA) hoy en busca de información sobre los tipos de herramientas de inteligencia artificial que están implementando las agencias de inteligencia, qué reglas limitan su uso de la inteligencia artificial y qué peligros representan estos sistemas para la igualdad, el debido proceso y la privacidad. y libre expresión.
A principios de este mes, la Comisión de Seguridad Nacional sobre Inteligencia Artificial emitió su informe final, que describe una estrategia nacional para enfrentar las oportunidades y desafíos que plantea la IA. La comisión, compuesta por tecnólogos, líderes empresariales y expertos académicos, pasó más de dos años examinando cómo la IA podría afectar la seguridad nacional. Describe la IA como “una constelación de tecnologías” que “resuelven tareas que requieren percepción, cognición, planificación, aprendizaje, comunicación o acción física similares a las de los humanos; y tecnologías que pueden aprender y actuar de forma autónoma, ya sea en forma de agentes de software o robots incorporados ". Los sistemas de inteligencia artificial se utilizan cada vez más para tomar decisiones, recomendaciones, clasificaciones y predicciones que afectan a los estadounidenses y a las personas en el extranjero a medida que avanzamos en nuestra vida diaria.
El informe insta al gobierno federal, y especialmente a las agencias de inteligencia, a continuar desarrollando e implementando rápidamente sistemas de inteligencia artificial para una amplia gama de propósitos. Esos propósitos incluyen realizar vigilancia, explotar información de redes sociales y datos biométricos, realizar análisis de inteligencia, contrarrestar la propagación de desinformación a través de Internet y predecir amenazas. El informe señala que las agencias de inteligencia individuales ya han avanzado hacia estos objetivos y pide una "integración ubicua de IA en cada etapa del ciclo de inteligencia" para 2025.
Si bien la inteligencia artificial puede prometer ciertos beneficios para la seguridad nacional, como mejorar la velocidad de algunas tareas y aumentar el juicio o el análisis humanos en otras, estos sistemas también plantean riesgos innegables para los derechos civiles y las libertades civiles.
De particular preocupación es la forma en que los sistemas de inteligencia artificial pueden estar sesgados contra las personas de color, las mujeres y las comunidades marginadas, y pueden usarse para automatizar, expandir o legitimar la conducta discriminatoria del gobierno. Los sistemas de inteligencia artificial pueden replicar sesgos incrustados en los datos utilizados para entrenar esos sistemas, y pueden tener tasas de error más altas cuando se aplican a personas de color, mujeres y comunidades marginadas debido a otras fallas en los datos subyacentes o en los propios algoritmos. Además, la inteligencia artificial se puede utilizar para guiar o incluso potenciar las actividades gubernamentales que durante mucho tiempo se han utilizado para escudriñar injusta e incorrectamente a las comunidades de color, incluida la vigilancia intrusiva, el interrogatorio de investigación, la detención y la creación de listas de vigilancia.
El informe de la comisión reconoce muchos de estos peligros y hace una serie de recomendaciones útiles, como evaluaciones obligatorias de derechos civiles, pruebas independientes de terceros y la creación de mecanismos de reparación sólidos. Pero, en última instancia, el informe prioriza el despliegue de IA, que dice que debe ser "inmediato", sobre la adopción de salvaguardias sólidas. La comisión debería haber ido más allá e insistir en que el gobierno establezca protecciones críticas de los derechos civiles ahora, al mismo tiempo que estos sistemas están siendo ampliamente desplegados por agencias de inteligencia y el ejército.
Un problema de umbral es que, cuando se trata de IA, incluso falta la transparencia básica. En junio de 2020, la Oficina del Director de Inteligencia Nacional publicó su Marco de Inteligencia Artificial para la Comunidad de Inteligencia e identificó la "transparencia" como uno de los principios básicos del marco. Pero no hay casi nada que mostrar. El público ni siquiera tiene información básica sobre las herramientas de inteligencia artificial que están desarrollando las agencias de inteligencia, a pesar de su potencial para dañar a los estadounidenses y a las personas en el extranjero. Tampoco está claro qué reglas concretas, si las hay, han adoptado estas agencias para protegerse contra el uso indebido de la inteligencia artificial en nombre de la seguridad nacional.
Nuestra nueva solicitud de FOIA tiene como objetivo arrojar luz sobre estas preguntas. Mientras tanto, el trabajo de diseñar protecciones básicas de IA debe avanzar. Si el desarrollo de sistemas de IA para nati
Comentarios
Publicar un comentario