Nueva York prohíbe la tecnología de reconocimiento facial en las escuelas

-

Las escuelas públicas y privadas del estado de Nueva York no pueden usar sistemas de reconocimiento facial en sus instalaciones durante al menos un año y medio, ya que el gobernador Andrew Cuomo firmó una legislación que prohíbe su uso. La legislación impone una moratoria a las escuelas que compren y usen tecnología de identificación biométrica hasta al menos el 1 de julio de 2022 o hasta que se complete un estudio que documente si el uso de la tecnología es apropiado en las escuelas.

El estudio abordará consideraciones específicas descritas en la legislación, incluido el impacto potencial de la tecnología en las libertades civiles y la privacidad de los estudiantes y cómo se utilizarían los datos recopilados, según un comunicado de prensa. La Oficina de Tecnología de la Información del estado trabajará con el Departamento de Educación del Estado y buscará comentarios de los maestros y padres, así como de expertos en seguridad escolar, seguridad, datos y asuntos de privacidad de los estudiantes para el estudio.

La legislación, S5140B, fue patrocinada por el senador Brian Kavanagh y fue aprobada por la legislatura del estado de Nueva York en julio. Un mes antes de eso, el grupo de derechos, la Unión de Libertades Civiles de Nueva York había presentado una demanda contra el Departamento de Educación del Estado de Nueva York por aprobar la tecnología de reconocimiento facial que se usaría en las Escuelas de la Ciudad de Lockport el año pasado. La demanda tenía como objetivo que la aprobación del sistema por parte del departamento se anulara y revocara, y que ordenara a Lockport que desactivara su sistema de reconocimiento facial.

“El reconocimiento facial está sesgado y roto, y no tiene cabida en el aula. Si se usa en las escuelas, el reconocimiento facial se convertirá en una parte más del proceso de vigilancia a la prisión. Los estudiantes de color no deberían tener miedo de ser arrestados simplemente por mostrar su rostro en clase. Se ha documentado que esta tecnología es más propensa a errores para los estudiantes negros y latinos / X, lo que agrava el sesgo humano que enfrentan todos los días. También pedimos a Nueva York que vaya más allá y prohíba permanentemente todo uso gubernamental del reconocimiento facial ”, dijo Albert Fox Cahn, director ejecutivo del grupo de derechos digitales STOP, con sede en Nueva York.

https://www.medianama.com/2020/12/223-new-york-schools-facial-recognition-ban/ 

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más