Canadá juega con su liderazgo en inteligencia artificial

-

https://www.theglobeandmail.com/business/commentary/article-canada-is-gambling-with-its-leadership-on-artificial-intelligence/

El presupuesto federal de la semana pasada comprometió $ 443,8 millones durante los próximos 10 años para renovar la Estrategia Pancanadiense de Inteligencia Artificial. Por casualidad, el presupuesto coincidió con la publicación por parte de la Unión Europea de la propuesta de reglamento de IA. La comparación de los dos muestra que Canadá está jugando un juego arriesgado al evitar un enfoque sólido y basado en los derechos para la gobernanza de la IA.


La IA es ahora una parte firme de cómo se gobierna la sociedad, y el enfoque de la UE es un marco legal intervencionista claro destinado a abordar la complejidad, la imprevisibilidad y el comportamiento autónomo de la IA. Su enfoque prohíbe ciertas aplicaciones de IA, en particular la mayoría de los usos del reconocimiento facial en el espacio público, estipula actividades de alto riesgo y luego pide mejores códigos de conducta y herramientas de evaluación para usos de riesgo bajo o moderado.


Las prohibiciones de la IA son bienvenidas y sensatas. Para muchos canadienses preocupados por la inteligencia artificial después de ver el exitoso docudrama El dilema social, la prohibición de la UE sobre la inteligencia artificial destinada a manipular el comportamiento de las personas o explotar sus vulnerabilidades parecerá eminentemente sensata.


Los usos de alto riesgo también deben cumplir con las obligaciones de supervisión, documentación y explicabilidad. El uso de la IA en el lugar de trabajo, en la educación y en el gobierno se considera de alto riesgo, lo que presta una atención crítica a las aplicaciones de la IA en estas áreas en Canadá. Incluso las aplicaciones de bajo riesgo deben ser más transparentes si el sistema interactúa con el público.


Por el contrario, el enfoque de Canadá sobre la regulación de la IA se asemeja a un castillo de naipes. A nivel federal, Canadá ha implementado de manera vacilante evaluaciones de riesgo para el uso de IA por parte del gobierno federal. Las reformas a la ley de privacidad proponen límites a la toma de decisiones algorítmicas. También estamos esperando una reacción al proyecto de reglamento de la Oficina del Comisionado de Privacidad de Canadá sobre IA, un programa que el presupuesto no mencionó. El presupuesto cumple la promesa del gobierno de un comisionado de datos encargado de proteger la integridad de los datos de los canadienses.

Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más