Vigilancia como Servicio

https://oxcaigg.oii.ox.ac.uk/wp-content/uploads/sites/124/2021/11/SaaS_Yung_Au_Nov_2021.pdf

RESUMEN EJECUTIVO

Este informe examina el mercado europeo que

produce y exporta sistemas de vigilancia asistida por IA a

gobiernos de todo el mundo. En particular, examina lo que

lo que llamamos "Vigilancia como Servicio" (SaaS): servicios y

software que se proporcionan para la vigilancia, y que consisten en

de sistemas complejos que se ofrecen con interfaces fáciles de usar

de fácil uso, así como un mantenimiento continuo, actualizaciones y

y soporte para la resolución de problemas (en lugar de una compra única).

Este análisis se centra en tres ejemplos de estos servicios que

que se han vuelto especialmente controvertidos últimamente: el reconocimiento y el análisis facial, el reconocimiento y el análisis de la voz.

reconocimiento y análisis faciales, el reconocimiento y análisis del habla

y los sistemas de análisis del comportamiento y de empuje.

Estimar el tamaño del mercado de estas industrias es extremadamente

difícil debido a la variedad de las propias tecnologías.

son. Además, los sistemas de vigilancia tienen largas cadenas de suministro

y un gran número de componentes para hacerlos

componentes para hacerlos funcionar, algunos más difíciles de rastrear que otros. Junto con

la falta de transparencia, la estimación del número de

fabricantes, intermediarios, compradores e ingresos totales de

ventas presenta importantes desafíos. No obstante, las estimaciones

de 2020 han señalado que el mercado mundial de análisis y reconocimiento facial

facial está valorado en unos 3.860 millones de dólares.

mil millones de dólares, el sector del reconocimiento y el análisis del habla

10-11 mil millones de dólares, y el análisis del comportamiento tiene un valor de

401-891 millones de dólares, y se prevé que todas estas valoraciones

se prevé que todas estas valoraciones crezcan exponencialmente en la próxima década.

Este examen de la contribución de Europa al mercado de la vigilancia

vigilancia se basa en datos de grupos de la sociedad civil y

periodistas, materiales de empresas y organismos públicos

fuentes secundarias, comentarios de expertos, documentos

documentación pública sobre litigios y conjuntos de datos preexistentes.

A partir de este conjunto de pruebas, el informe examina

los tipos de servicios que se ofrecen, los distintos casos de uso

y las controversias que se han suscitado. En

En el caso de los tres tipos de servicios, parece haber

de los tres tipos de servicios, parece haber preocupaciones urgentes en torno a las propias tecnologías, las

las prácticas empresariales que las rodean y el modo en que se despliegan estos sistemas.

y la forma en que se despliegan estos sistemas. Este informe también señala consideraciones que van más allá de

de los casos que aquí se analizan, como que gran parte de las operaciones de

operaciones de vigilancia actuales se encuentra más allá de la inteligencia artificial y

sistemas de aprendizaje automático o SaaS, la inmensa industria de investigación y

industria del desarrollo de futuras tecnologías de vigilancia

y los numerosos conductos de datos que alimentan estos sistemas.

Este informe refuerza lo que muchos grupos de la sociedad civil

periodistas e investigadores independientes han instado antes.

A medida que aumenta el solapamiento entre las tecnologías de IA y las aplicaciones de

de vigilancia masiva, también lo hace el potencial de

potencial de daño. Ya sea que esto se produzca al probar

de vigilancia en poblaciones desprevenidas, el uso de datos sin

de datos sin el consentimiento del usuario o la exportación de

de vigilancia que pueden ser mal utilizadas por los gobiernos, el

desarrollo ilimitado de los sistemas SaaS amenaza los derechos

derechos humanos. Basándonos en las últimas pruebas sobre el desarrollo

del mercado europeo de SaaS, se necesitan urgentemente intervenciones políticas y normativas más amplias.

políticas y normativas más amplias. Esto incluye la necesidad de:

1. Implementar mecanismos reguladores más estrictos

para la industria de la vigilancia en Europa, incluyendo moratorias

moratorias y prohibiciones de determinadas tecnologías que

producen el mayor daño.

2. Implementar una evaluación y una regulación más rigurosas

regulación sobre los efectos de largo alcance de la

industria de la vigilancia más allá de la UE.

3. 3. Promulgar sanciones claras y proporcionadas por

incumplimiento de las normas y directrices.

4. Potenciar mejor los mecanismos de supervisión del

diseño, el desarrollo y el despliegue de aplicaciones de

de aprendizaje automático de manera que no se imponga la

la carga de denunciar la violación de los derechos humanos a los

de los derechos humanos a los grupos de la sociedad civil, los periodistas, los investigadores y los

ciudadanos individuales.

Quedan muchas incertidumbres sobre el futuro de la vigilancia

y las industrias que hacen posible estas operaciones.

Aunque el panorama sigue resistiéndose a cualquier definición fácil

está claro que, si no se regula lo suficiente, este mercado tiene

potencial para causar daños y consecuencias duraderas.

*** Translated with www.DeepL.com/Translator (free version) ***