Actualidad Deep Learning

  The full report is available  here , and the executive summary  here .   El Instituto Ada Lovelace (Ada), el Instituto AI Now (AI Now) y la Open Government Partnership (OGP) se han asociado para lanzar el primer estudio mundial que analiza la ola inicial de políticas de algorítmica para el sector público. Este estudio tiene como objetivo comprender los desafíos y los éxitos de de las políticas de rendición de cuentas algorítmica desde la perspectiva de los de los actores e instituciones directamente responsables de su aplicación sobre el terreno. Este resumen ejecutivo destaca las principales conclusiones de este estudio. Lea el informe completo para obtener más detalles sobre estas conclusiones y estudios de casos prácticos de políticas aplicadas. Instituto Ada Lovelace, Instituto AI Now y Open Government Partnership. (2021). Algorithmic Accountability for the Public Sector. Disponible en: https://www.opengovpartnership.org/documents/ algorithmic-accountability-pu...

https://n3gz.org/2021/03/12/why-ai-applications-get-stalled-in-the-public-sector/ Hace más de un año, el autor participó en un hackathon para IA aplicada en la administración pública con un equipo multifuncional de programadores y analistas de negocios. El equipo creó una prueba de concepto (POC) para una aplicación de procesamiento del lenguaje natural (NLP) que estimaba qué partes de un documento contenían qué tipos de información. El concepto era brillante, pero nunca se encargó, ya que las estructuras de costos específicas del sector público negaban un caso comercial para el POC, a pesar de un caso de uso convincente. En general, para comprender por qué las aplicaciones de IA en la administración pública a menudo se enfrentan a una muerte prematura, se debe pasar de la perspectiva de un proveedor de tecnología a la de un administrador público. Vista del proveedor de tecnología: el caso de uso El statu quo: siempre que los municipios belgas eligen nuevos alcaldes y concejales, los r...

https://medium.com/@AINowInstitute/how-can-governments-keep-algorithms-accountable-a-look-at-the-first-wave-of-policy-implementation-312f4549469b Los gobiernos recurren cada vez más a algoritmos para automatizar la toma de decisiones para los servicios públicos. Los algoritmos podrían, por ejemplo, usarse para predecir futuros delincuentes, tomar decisiones sobre los derechos de asistencia social, detectar fraudes por desempleo, decidir adónde enviar a la policía o ayudar a la planificación urbana *. Sin embargo, la evidencia creciente sugiere que estos sistemas pueden causar daños y, con frecuencia, carecen de transparencia en su implementación, incluida la opacidad en torno a las decisiones sobre si se deben usar y por qué. Muchos sistemas algorítmicos carecen de responsabilidad política, ya que replican, amplifican y naturalizan la discriminación contra las personas que han sufrido la peor parte de la opresión y la discriminación histórica. También facilitan nuevas formas de intrusi...

 Esta reunión trató sobre: el Ecosistema de confianza COVID-19 Sector público Identificación Biométrica IA y Responsabilidad Evaluación de conformidad https://futurium.ec.europa.eu/en/european-ai-alliance/document/2nd-european-ai-alliance-assembly-event-report

 La innovación sostenible en la tecnología basada en datos depende de la creación y el mantenimiento de la confianza del público. Es evidente que hay un camino por recorrer para generar la confianza del público en los algoritmos, y el punto de partida obvio para esto es garantizar que los algoritmos sean confiables; en la revisión del CDEI sobre el sesgo en la toma de decisiones algorítmicas, analizamos una parte clave de esto. En la revisión, consideramos el papel que puede desempeñar la transparencia en la construcción de un entorno confiable y garantizar la equidad. Si bien esto es cierto en todos los sectores, el sector público tiene la responsabilidad particular de dar ejemplo de cómo debería ser una buena transparencia en el uso de algoritmos. El sector público toma muchas de las decisiones de mayor impacto que afectan a las personas, y esperamos que el sector público pueda justificar y evidenciar sus decisiones. Si bien una persona tiene la opción de optar por no utilizar un...

 Los organismos del sector público deben ser más abiertos sobre el uso de algoritmos en la toma de decisiones, se les ha dicho a los ministros. Un organismo asesor del gobierno dijo que se necesitaba una mayor transparencia y responsabilidad en todos los ámbitos de la vida sobre el uso de modelos informáticos en las políticas. Los funcionarios deben comprender los límites y los riesgos de sesgo de los algoritmos, dijo el Centro de Ética e Innovación de Datos. Boris Johnson culpó a un algoritmo "mutante" del caos sobre las calificaciones escolares en Inglaterra este verano. Ofqual y otros reguladores de exámenes en todo el Reino Unido se vieron obligados a dar marcha atrás tras una protesta pública por el uso de un programa informático para determinar las calificaciones de nivel A y GCSE después de la cancelación de los exámenes. https://www.bbc.com/news/uk-politics-55105741

 Dado que la tecnología de los sistemas de inteligencia artificial (AIS) se obtiene cada vez más de empresas privadas para uso público, los estándares de adquisiciones existentes pueden no ser suficientes para identificar de manera proactiva daños o mitigar los riesgos para los ciudadanos o usuarios debido a limitaciones de tiempo o presupuesto. Desafortunadamente, hasta la fecha existe poca investigación e intercambio interdisciplinario sobre temas relacionados con AIS, contratación pública, riesgo, transparencia e impacto. Para desarrollar intervenciones y estrategias significativas, es esencial generar primero una comprensión estructurada de los procesos de contratación pública existentes para identificar cómo pueden cruzarse y apoyar mejor las necesidades de la comunidad. Las ciudades son sitios particularmente importantes, ya que se han convertido en un grupo de clientes AIS de importancia única. Como una forma de abordar esta necesidad, IEEE Standards Association (IEEE SA) es...

Las promesas y los imperativos de las mejoras tecnológicas a los sistemas públicos parecen evidentes: los sistemas mejor diseñados pueden mejorar el acceso, reducir las ineficiencias y, en la pandemia actual, mantenernos más saludables y seguros. Sin embargo, ver los sistemas algorítmicos como una solución fácil para problemas institucionalizados arraigados empeorará estos problemas. Para lograr todo el potencial de las nuevas tecnologías, primero debemos desarrollar e instituir la supervisión adecuada en nuestros procesos de contratación pública. Los sistemas de IA, en particular, plantean nuevos riesgos para la sociedad a medida que invaden el uso público. Nuestros procesos democráticos corren el riesgo de ser subvertidos a medida que las empresas privadas se apoderan cada vez más de nuestra infraestructura pública digital, lo que podría conducir a una captura política sin precedentes bajo el disfraz de “modernizar” los servicios públicos. Necesitamos con urgencia niveles adecuados d...

 En un momento de creciente complejidad, incertidumbre y demandas cambiantes, los gobiernos y los funcionarios públicos necesitan comprender, evaluar e incorporar nuevas formas de hacer las cosas. El OPSI les ayuda arrojando luz sobre los esfuerzos de los gobiernos por crear políticas y servicios más eficientes y adecuados y acompañándolos al momento de explorar e implementar enfoques innovadores. El gobierno puede utilizar la IA para innovar, de hecho, en muchos casos ya lo está haciendo. Por ejemplo, varios líderes a nivel mundial ya cuentan con estrategias para desarrollar la capacidad de la IA como prioridad nacional. La IA se puede utilizar para que los procesos actuales sean más eficientes y precisos. Se puede utilizar para consumir y analizar información no estructurada, como los tweets, para ayudar a los gobiernos a conocer las opiniones de los ciudadanos. Por último, al mirar hacia el futuro, será importante considerar y prepararse para las implicaciones de la IA en la soc...

 Los prejuicios injustos, ya sean conscientes o inconscientes, pueden ser un problema en muchos procesos de toma de decisiones. Esta revisión considera el impacto que un uso creciente de herramientas algorítmicas está teniendo sobre el sesgo en toma de decisiones, los pasos necesarios para gestionar los riesgos y las oportunidades que ofrece un mejor uso de los datos para mejorar la equidad. Nos hemos centrado en el uso de algoritmos en decisiones importantes sobre individuos, analizando cuatro sectores (contratación, servicios financieros, vigilancia y gobierno local) y haciendo recomendaciones transversales que tienen como objetivo ayudar a construir los sistemas adecuados para que los algoritmos mejoren, en lugar de que empeorar, la toma de decisiones. https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/939109/CDEI_review_into_bias_in_algorithmic_decision-making.pdf

La IA es cada vez más utilizada por el gobierno y empresas para tomar decisiones que afectar los derechos de las personas, incluso en el provisión de bienes y servicios, así como otra importante toma de decisiones como contratación, seguridad social y vigilancia. Donde surge el sesgo algorítmico en estos procesos de toma de decisiones, puede dar lugar a errores. Especialmente en la toma de decisiones de alto riesgo, los errores pueden causar un daño real. El daño puede ser  particularmente grave si una persona es injustamente desfavorecidos sobre la base de su raza, edad, sexo u otro caracteristicas. En algunas circunstancias, esto puede equivaler a ilegal discriminación y otras formas de violación de los derechos humanos. https://humanrights.gov.au/sites/default/files/document/publication/ahrc_technical_paper_algorithmic_bias_2020.pdf

 Este artículo considera algunos de los riesgos y desafíos que plantea el uso de herramientas predictivas y de toma de decisiones asistidas por algoritmos por parte del sector público. Además, revisa una serie de normas de derecho administrativo inglesas de larga data diseñadas para regular el poder discrecional del estado. Los principios del derecho administrativo se refieren a las decisiones humanas involucradas en el ejercicio del poder y la discrecionalidad del Estado, ofreciendo así una vía prometedora para la regulación del creciente número de decisiones asistidas por algoritmos dentro del sector público. Este artículo intenta reformular las reglas clave para el nuevo entorno algorítmico y argumenta que la ley "antigua", interpretada para un nuevo contexto, puede ayudar a guiar a abogados, científicos y profesionales del sector público por igual al considerar el desarrollo y despliegue de nuevas herramientas algorítmicas. Este artículo es parte de un tema de una reunión...

Es el primer documento de la Comisión Oxford de IA & Buen Gobierno. La inteligencia artificial (IA) ha llegado al sector público. Prometedora de resolver Algunos de nuestros desafíos sociales y de políticas públicas más apremiantes, AI ser cada vez más generalizado. Muchos gobiernos, agencias e instituciones públicas.  Ya empleamos IA en la prestación de servicios públicos, el distribución de recursos y entrega de gobernanza bienes. En el sector público, la gobernanza habilitada para IA puede permitirse nuevas eficiencias que tienen el potencial de transformar una amplia gama de tareas de servicio público. Pero el diseño miope y el uso de IA pueden crear nuevos problemas, afianzar desigualdades existentes y calcificar y finalmente socavar las organizaciones gubernamentales. Marcos para la adquisición e implementación de IA en el servicio público se han mantenido ampliamente subdesarrollado. Con frecuencia, las regulaciones existentes y las leyes nacionales ya no son adecuadas p...

Es la mejor guía de ética y seguridad de la IA, según afirma modestamente el propio documento, pero no voy a comprobar si es cierto o de un documento de 97 páginas. A pesar de ello, siendo un documento del Instituto Alan Turing seguro que es genial. https://www.turing.ac.uk/research/publications/understanding-artificial-intelligence-ethics-and-safety Adaptado por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)

Es una noticia que están preparando un informe sobre la IA en la administración pública norteamericana. https://law.stanford.edu/press/acus-stanford-law-school-and-nyu-school-of-law-announce-report-on-artificial-intelligence-in-federal-agencies/ https://hai.stanford.edu/news/new-hai-funded-research-explores-ai-governance por Aniceto Pérez y Madrid, Filósofo de las Tecnologías y Editor de Actualidad Deep Learning (@forodeeplearn)