IA, libertad de elección, Aristóteles y Kant

-

https://www.ot.gr/2021/12/04/english-edition/ai-freedom-of-choice-aristotle-and-kant/

¿En qué condiciones puede la inteligencia artificial (IA) ser beneficiosa y útil para la humanidad sin constituir una amenaza para las libertades personales (ή individuales) y la propia democracia?


¿Cuál es el verdadero potencial y los límites de las "máquinas inteligentes"?


¿Qué tan lejos estamos de la creación de sistemas "superinteligentes"?


Cuán lejos estamos de la creación de tales sistemas que, sin embargo, conllevan el riesgo de que en algún momento se escapen del control humano?


¿Puede Grecia, de forma realista, esperar convertirse en un "jugador" de igualdad en una próxima economía de la IA?


El profesor John Tasioulas es catedrático de ética y filosofía del derecho en Oxford, director del Instituto de Ética de la IA y presidente del Consejo Asesor de ELONTech.


El término "Ética de las Máquinas" se introdujo hace un par de décadas con el propósito de "garantizar que los sistemas autónomos de IA se comporten de forma ética al interactuar con los seres humanos". ¿Cree realmente que puede haber sistemas de IA autónomos en el futuro? Y si es así, ¿en qué sentido?


La "autonomía" es una noción resbaladiza con múltiples sentidos, pero creo que hay tipos de "autonomía" que ya han sido alcanzados por los sistemas de IA, o que pronto lo serán. Hay un sentido mínimo de "autonomía" que muestran muchos sistemas de IA, como los coches sin conductor o los sistemas de armamento autónomos, por el que pueden tomar una decisión sin necesidad de la intervención directa de un ser humano, o incluso sin la posibilidad de hacerlo. Pero también hay un sentido más rico de la autonomía que han alcanzado los sistemas de IA. Los sistemas de IA basados en el aprendizaje automático pueden tomar decisiones que cumplen los objetivos que los diseñadores han establecido para ellos, pero cuando las decisiones no estaban previstas o eran predecibles por esos diseñadores. Ejemplos clásicos de ello son los algoritmos de juego desarrollados por DeepMind, que realizaron jugadas en juegos como Breakout y Go que tomaron por sorpresa a los propios diseñadores. De hecho, Lee Sedol, el campeón mundial de Go, que fue derrotado por AlphaGo, dijo que la experiencia de jugar contra un sistema así le convenció de que era realmente "creativo".

*** Translated with www.DeepL.com/Translator (free version) ***


Comentarios

Publicar un comentario

Popular

Es hora de que la IA se explique

-
https://www.hpe.com/us/en/insights/articles/it-s-time-for-ai-to-explain-itself-2108.html Los modelos de IA son cada vez más precisos, pero ni siquiera los científicos de datos que los crearon pueden explicar por qué, y eso es un problema. Los algoritmos basados en la IA forman parte de la vida cotidiana de casi todo el mundo. Todos nos hemos acostumbrado a que las máquinas nos sugieran una nueva serie para ver en Netflix, otra persona a la que seguir en Facebook o lo siguiente que tenemos que pedir en Amazon. También están impulsando decisiones mucho más importantes, como en qué acciones invertir, qué procedimientos médicos considerar o si se puede optar a una hipoteca. En algunos casos, un sistema de IA puede ofrecer mejores consejos que un asesor financiero, un médico o un banquero. Pero si acabas en el lado equivocado de un algoritmo, no hay ninguna persona a la que puedas abrochar para explicar por qué tu solicitud de préstamo fue rechazada o tu currículum descartado. Y con demasia...
Leer más

Ann Cavoukian explica por qué la vigilancia invasiva no debería ser la norma en los entornos urbanos modernos y sostenibles

-
https://www.codastory.com/authoritarian-tech/privacy-smart-cities/ De Ámsterdam a Dubai, las ciudades inteligentes prometen un futuro brillante y sostenible. Pensemos en los sistemas de GPS que ponen en verde las luces de las calles para las ambulancias que se acercan y en los sistemas de riego que controlan la calidad del suelo y el clima para conservar el agua. Sin embargo, la tecnología que hay detrás puede tener serias implicaciones para nuestra privacidad y derechos civiles. En 2016, San Diego desplegó farolas equipadas con cámaras de vigilancia para controlar el tráfico, pero la policía ha utilizado desde entonces sus imágenes durante las investigaciones. En la primavera de 2020, incluso se encendieron en las protestas de Black Lives Matter. El ayuntamiento está estudiando ahora una nueva normativa para regular su uso.  En 2017, la doctora Ann Cavoukian aceptó trabajar como asesora en un proyecto ahora abandonado, en el que la empresa hermana de Google, Sidewalk Labs, planeab...
Leer más

Gemelos digitales, cerebros virtuales y los peligros del lenguaje

-
https://ethicsblog.crb.uu.se/2022/01/18/digital-twins-virtual-brains-and-the-dangers-of-language/ Se ha empezado a introducir una nueva tecnología de simulación por ordenador, por ejemplo, en la industria manufacturera. La simulación por ordenador se llama gemelo digital, lo que me reta a dar vida al lector a lo que algo que suena tan imaginativo puede ser en realidad. La explicación más realista que puedo encontrar proviene del mundo de Harry Potter. ¿Recuerdan el mapa de Hogwarts, que no sólo muestra todas las habitaciones y pasillos, sino también los pasos en tiempo real de quienes se escabullen por la escuela? Un mapa similar puede crearse fácilmente en un entorno informático conectando el mapa en el ordenador con sensores en el suelo del edificio que representa el mapa. Inmediatamente se tiene un mapa digital interactivo del edificio que se actualiza automáticamente y muestra los movimientos de la gente en él. Imaginemos además que la simulación informática puede hacer cálculos qu...
Leer más