Entradas

Meaningful human control: actionable properties for AI system development

-
https://link.springer.com/article/10.1007/s43681-022-00167-3?s=03#Sec3 Resumen ¿Cómo pueden los seres humanos mantener el control de los sistemas basados en la inteligencia artificial (IA) diseñados para realizar tareas de forma autónoma? Estos sistemas son cada vez más omnipresentes, lo que genera ventajas, pero también situaciones indeseables en las que la responsabilidad moral de sus acciones no puede atribuirse adecuadamente a ninguna persona o grupo en particular. Se ha propuesto el concepto de control humano significativo para abordar las lagunas de responsabilidad y mitigarlas estableciendo condiciones que permitan atribuir adecuadamente la responsabilidad a los seres humanos; sin embargo, todavía no existen requisitos claros para los investigadores, diseñadores e ingenieros, lo que dificulta el desarrollo de sistemas basados en la IA que permanezcan bajo un control humano significativo. En este artículo abordamos la brecha existente entre la teoría filosófica y la práctica de l...
Publicar un comentario
Leer más

Andrew Ng predicts the next 10 years in AI

-
https://venturebeat.com/2022/03/21/andrew-ng-predicts-the-next-10-years-in-ai/ Andrew Ng Estamos encantados de volver a traer Transform 2022 en persona el 19 de julio y virtualmente del 20 al 28 de julio. Únase a los líderes de la IA y de los datos para asistir a charlas interesantes y a emocionantes oportunidades de establecer contactos. Inscríbase hoy mismo. ¿Alguna vez ha sentido que estaba harto de su línea de trabajo actual y quería cambiar de marcha? Si es así, no está solo. Sin embargo, además de participar en la Gran Dimisión, también hay enfoques menos radicales, como el que está adoptando Andrew Ng. Ng, una de las figuras más destacadas de la IA, es fundador de LandingAI y DeepLearning.AI, copresidente y cofundador de Coursera, y profesor adjunto de la Universidad de Stanford. También fue jefe científico de Baidu y fundador del proyecto Google Brain. Sin embargo, su prioridad actual ha cambiado, pasando de los "bits a las cosas", como él dice. Omniverso de Nvidia: C...
Publicar un comentario
Leer más

La IA puede predecir la raza de las personas a partir de imágenes de rayos X, y los científicos están preocupados

-
https://www.sciencealert.com/ai-can-predict-people-s-race-from-medical-images-and-scientists-are-concerned Los modelos de aprendizaje profundo basados en la inteligencia artificial pueden identificar la raza de alguien solo a partir de sus radiografías, según ha revelado una nueva investigación, algo que sería imposible para un médico humano que mirara las mismas imágenes. Los resultados plantean algunas cuestiones preocupantes sobre el papel de la IA en el diagnóstico, la evaluación y el tratamiento médicos: ¿podría el software informático aplicar involuntariamente un sesgo racial al estudiar imágenes como estas? Tras haber entrenado su IA con cientos de miles de imágenes de rayos X etiquetadas con detalles de la raza del paciente, un equipo internacional de investigadores sanitarios de EE.UU., Canadá y Taiwán probó su sistema con imágenes de rayos X que el software informático no había visto antes (y del que no tenía información adicional). La IA pudo predecir la identidad racial del...
Publicar un comentario
Leer más

Mastercard lanza el sistema "smile to pay" en medio de la preocupación por la privacidad

-
https://www.theguardian.com/technology/2022/may/17/mastercard-launches-smile-to-pay-amid-privacy-concerns?CMP=share_btn_tw Mastercard está poniendo en marcha un controvertido programa que permitirá a los compradores pagar en la caja con una simple sonrisa o un gesto de la mano, en su intento de hacerse con una parte del mercado de la biometría, de 18.000 millones de dólares (14.400 millones de libras). Aunque la tecnología de reconocimiento facial ha suscitado desde hace tiempo las dudas de los grupos de defensa de los derechos civiles, el gigante de los pagos ha declarado que sigue adelante con un programa de pago biométrico que, según afirma, acelerará los pagos, reducirá las colas y proporcionará más seguridad que una tarjeta de crédito o débito estándar. "Una vez inscritos, no es necesario ralentizar la cola de la caja buscando en los bolsillos o en el bolso", dijo Mastercard. "Los consumidores pueden simplemente comprobar la factura y sonreír a una cámara o pasar la...
Publicar un comentario
Leer más

Una auditoría de 9 algoritmos utilizados por el Gobierno holandés

-
https://english.rekenkamer.nl/publications/reports/2022/05/18/an-audit-of-9-algorithms-used-by-the-dutch-government El uso responsable de los algoritmos por parte de los organismos públicos es posible, pero no siempre es así en la práctica. El Tribunal de Cuentas de los Países Bajos descubrió que 3 de los 9 algoritmos que auditó cumplían todos los requisitos básicos, pero los otros 6 no lo hacían y exponían al gobierno a diversos riesgos: desde el control inadecuado del rendimiento y el impacto del algoritmo hasta el sesgo, la filtración de datos y el acceso no autorizado.
Publicar un comentario
Leer más

El tecno-optimismo: Un análisis, una evaluación y una modesta defensa

-
https://philpapers.org/archive/DANTAA-8.pdf ¿Qué es el tecno-optimismo y cómo se puede defender? Aunque los puntos de vista tecnooptimistas son ampliamente adoptados y criticados, ha habido pocos intentos de analizar sistemáticamente lo que significa ser tecnooptimista y cómo se puede defender este punto de vista. Este artículo trata de subsanar esta carencia proporcionando un análisis y una evaluación exhaustivos del tecno-optimismo. Se argumenta que el tecno-optimismo es una postura plural que se presenta en formas débiles y fuertes. Éstas varían en función de una serie de dimensiones clave, pero cada una de ellas comparte la opinión de que la tecnología desempeña un papel fundamental a la hora de garantizar que lo bueno prevalezca sobre lo malo. Sea cual sea su fuerza, para defender esta postura hay que desarrollar un argumento con cuatro premisas clave. Cada una de estas premisas es muy controvertida y puede ser objeto de varias críticas. El documento analiza en detalle cinco de es...
Publicar un comentario
Leer más

Estados Unidos advierte de la discriminación que supone el uso de la inteligencia artificial para seleccionar a los candidatos a un puesto de trabajo

-
https://www.npr.org/2022/05/12/1098601458/artificial-intelligence-job-discrimination-disabilities?s=03 El gobierno federal dijo el jueves que la tecnología de inteligencia artificial para seleccionar nuevos candidatos a un puesto de trabajo o supervisar la productividad de los trabajadores puede discriminar injustamente a las personas con discapacidad, enviando una advertencia a los empleadores de que las herramientas de contratación comúnmente utilizadas podrían violar las leyes de derechos civiles. El Departamento de Justicia de Estados Unidos y la Comisión para la Igualdad de Oportunidades en el Empleo emitieron conjuntamente una guía para que los empleadores tengan cuidado antes de utilizar las populares herramientas algorítmicas destinadas a agilizar el trabajo de evaluación de los empleados y las perspectivas de empleo, pero que también podrían infringir la Ley de Estadounidenses con Discapacidades. "Estamos haciendo sonar una alarma con respecto a los peligros vinculados a ...
Publicar un comentario
Leer más