El DA de Staten Island adquirió discretamente un controvertido software de reconocimiento facial

En 2019, la Oficina del Fiscal de Distrito de Staten Island compró discretamente software de Clearview AI, una controvertida empresa de reconocimiento facial. A diferencia de las herramientas tradicionales de reconocimiento facial, que se basan en bases de datos gubernamentales de fotografías policiales o licencias de conducir, el programa expansivo de Clearview permite a los usuarios buscar posibles coincidencias faciales de más de tres mil millones de fotos extraídas de sitios como Facebook, LinkedIn, Venmo y YouTube. Los usuarios cargan la imagen de una persona de interés y el programa devuelve fotos que se consideran similares con enlaces a los sitios web correspondientes.


Según los documentos de la Ley de Libertad de Información obtenidos por Legal Aid Society, los fiscales de Staten Island acordaron un contrato de $ 10,000 por un año para el software de reconocimiento facial Clearview AI en mayo de 2019.Los registros también muestran que la oficina del fiscal del distrito creó protocolos diseñados para garantizar la documentación. y revisión posterior de búsquedas individuales de reconocimiento facial.


Horas después de que el fiscal de distrito de Staten Island, Michael McMahon, se negara a comentar para esta historia, la agencia envió a la Sociedad de Ayuda Legal una respuesta a una solicitud de seguimiento de FOIL. En la respuesta, el fiscal del distrito dijo que no podía ubicar ningún documento de contrato de Clearview AI después de mayo de 2019 y se negó a proporcionar copias de las búsquedas de reconocimiento facial realizadas en el programa. "Revelar tales registros constituiría una invasión irrazonable de la privacidad personal", decía la carta.


En un correo electrónico, Hoan Ton-That, director ejecutivo de Clearview AI, dijo que su empresa se siente "honrada" de proporcionar tecnología "de vanguardia" a la oficina del fiscal del distrito.


“Los organismos encargados de hacer cumplir la ley en todo el país lo utilizan únicamente para investigaciones posteriores al delito. No es una herramienta de vigilancia ”, dijo Ton-That. "El uso específico en cada caso lo determinan los profesionales policiales altamente capacitados que lo utilizan, incluidos los de la oficina del fiscal de distrito de Staten Island".


Pero Diane Akerman, abogada del personal de la Unidad de Análisis Forense Digital de la Sociedad de Ayuda Legal, expresó su preocupación por poner herramientas tan poderosas en manos de las fuerzas del orden.


"La tecnología de reconocimiento facial, especialmente Clearview AI, representa una amenaza directa para la privacidad básica y los derechos civiles de los neoyorquinos", dijo Akerman. “El uso de la tecnología amenaza con aumentar la vigilancia de comunidades históricamente superpobladas (comunidades de color, comunidades negras y marrones y activistas) que durante mucho tiempo han asumido de manera desproporcionada los efectos dañinos de la vigilancia por parte de las fuerzas del orden”.


En todo el país, los defensores de la privacidad han criticado el uso encubierto de Clearview AI por parte de los departamentos de policía, argumentando que el software ha expandido dramáticamente la red de vigilancia sin supervisión o evaluaciones independientes de precisión. Pero su uso por parte de los fiscales ha sido objeto de menos escrutinio.


De sus 2.400 clientes encargados de hacer cumplir la ley en todo el país, Clearview AI afirma que más de cien son fiscalías. Según los documentos del fiscal de distrito de Staten Island, los usos del programa podrían incluir la identificación de perpetradores y víctimas, la exoneración de inocentes y el desarrollo de pistas en casos sin resolver.


En la ciudad de Nueva York, la adquisición de la tecnología por parte del fiscal parece ser un caso atípico. En respuesta a las consultas de Gothamist, los representantes de los fiscales de distrito del Bronx, Brooklyn, Manhattan y Queens confirmaron que sus oficinas no tienen el software Clearview AI.


Akerman, el defensor público de Legal Aid, dijo que los residentes de Staten Island deberían preocuparse por ser acusados ​​injustamente debido al programa de Clearview AI. "Si sus fotos se incluyen en esta base de datos y si la oficina del fiscal la está utilizando, pueden ser arrastrados fácilmente a un proceso penal basado en una identificación errónea de este tipo de tecnología que no tiene absolutamente ninguna supervisión", dijo Akerman.


Akerman argumentó que este peligro es mayor para los residentes negros, quienes tienen muchas más probabilidades de ser identificados erróneamente por la tecnología de reconocimiento facial que los residentes blancos.


Mark Fonte, un abogado defensor y exfiscal de Staten Island, dijo que se podría abusar de la tecnología, pero dijo que también confía en que el fiscal de distrito de Staten Island McMahon no se apresurará a presentar cargos basados ​​únicamente en coincidencias de reconocimiento facial.

https://gothamist.com/news/staten-island-da-quietly-purchased-controversial-facial-recognition-software 

Comentarios

Popular

Es hora de que la IA se explique

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

Gemelos digitales, cerebros virtuales y los peligros del lenguaje