Contrarrestar los problemas de seguridad que plantean las últimas tecnologías de IA

-

https://www.shine.cn/news/metro/2107101823/

En la Conferencia Mundial sobre Inteligencia Artificial que se está celebrando se están elaborando una serie de normas nacionales para salvaguardar la ciberseguridad y reprimir las aplicaciones ilegales de las tecnologías de inteligencia artificial.


Estas normas abarcan ámbitos como el audio y el vídeo sintéticos basados en la inteligencia artificial, la seguridad de los algoritmos de aprendizaje automático y la tecnología de identificación biométrica de la inteligencia artificial.


Las nuevas tecnologías de IA emergentes, como el deepfake, se están aplicando en áreas de filmación, tratamiento médico y realidad virtual, donde tienen el potencial de ser abusadas, advirtieron los expertos.


Las celebridades han sido víctimas de los vídeos deepfake después de que sus rostros se unieran a los de las estrellas del porno de forma digital. A algunas actrices famosas, como Scarlett Johansson, les cambiaron digitalmente sus rostros por los de actrices porno.


Las tecnologías de IA también se han utilizado en diversas estafas, como los fraudes de telecomunicaciones.


El abuso de las tecnologías amenaza incluso la seguridad social y nacional, dijeron los asistentes.


"Las tecnologías deepfake dificultan la obtención de pruebas y la identificación de imágenes por parte de la policía y las autoridades judiciales y se convierten en "armas" de la guerra de la información", dijo Tian Tian, director general de RealAI, una empresa de IA incubada en la Universidad de Tsinghua.


Los problemas de seguridad que plantean las nuevas tecnologías, como el deepfake, son un cuello de botella para la industria de la IA, dijo Tian.


La industria de la IA está experimentando una transformación desde el desarrollo rápido al desarrollo de alta calidad. La demanda de aplicaciones en escenarios complejos y de alto valor, como las finanzas y el tratamiento médico, está creciendo rápidamente. Sin embargo, también han surgido varios problemas de seguridad durante el proceso.


Además de los reglamentos y las normas, también se está adoptando un enfoque tecnológico para acabar con los problemas de seguridad que plantean las nuevas tecnologías de IA.


RealAI lanzó en la WAIC su plataforma DeepReal con tecnologías de contrarresto que pueden reconocer contenidos falsos, incluidas las caras falsas.


Puede aplicarse en diversos ámbitos, como la investigación policial, la seguridad en el ciberespacio, la protección de la reputación personal y la prevención de los fraudes cibernéticos, con una rápida identificación de imágenes y un alto índice de precisión en la identificación.


"La inteligencia artificial segura, fiable y digna de confianza es la tendencia futura, y la seguridad debe ser la base del desarrollo de la IA en la próxima fase", dijo Zhang Bo, académico de la Academia China de Ciencias y director del Instituto de Inteligencia Artificial de la Universidad de Tsinghua.


Traducción realizada con la versión gratuita del traductor www.DeepL.com/Translator

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más