Entradas

Mostrando las entradas etiquetadas como Consecuencias serias

Sesgos, racismo y mentiras: afrontar las consecuencias no deseadas de la IA

 La frase "inteligencia artificial" puede evocar imágenes de máquinas que son capaces de pensar y actuar como los humanos, independientemente de cualquier supervisión de personas reales, de carne y hueso. Las versiones cinematográficas de la IA tienden a presentar máquinas superinteligentes que intentan derrocar a la humanidad y conquistar el mundo. La realidad es más prosaica y tiende a describir software que puede resolver problemas, encontrar patrones y, en cierta medida, "aprender". Esto es particularmente útil cuando es necesario clasificar y comprender grandes cantidades de datos, y la IA ya se está utilizando en una serie de escenarios, particularmente en el sector privado. Los ejemplos incluyen chatbots capaces de realizar correspondencia en línea; sitios de compras en línea que aprenden a predecir lo que podría querer comprar; y periodistas de IA que escriben artículos deportivos y comerciales (esta historia, les puedo asegurar, fue escrita por un humano). ...

Los algoritmos pueden impulsar la desigualdad. Solo mire el caos de exámenes escolares en Gran Bretaña

 El joven de 18 años, cuyo nombre completo CNN no revela porque temía las repercusiones de las universidades, estaba entre los más de 300.000 alumnos en Inglaterra, Gales e Irlanda del Norte que se despertaron el 13 de agosto con resultados de exámenes de nivel A de importancia crítica, que son en términos generales equivalente al diploma de escuela secundaria de EE. UU. Estos exámenes se cancelaron este verano debido a la pandemia. En cambio, las calificaciones de los estudiantes se determinaron mediante un algoritmo, el Modelo de desempeño del centro directo, que fue elegido por el regulador de exámenes del gobierno. El modelo se basó en una colección de datos para producir las calificaciones. Una protesta posterior por el supuesto sesgo algorítmico contra los alumnos de entornos más desfavorecidos ha hecho que tanto los adolescentes como los expertos pidan un mayor escrutinio de dicha tecnología. https://edition.cnn.com/2020/08/23/tech/algorithms-bias-inequality-intl-gbr/index.h...

El Servicio Secreto compra datos de ubicación que de otro modo necesitarían una orden judicial

 El Servicio Secreto pagó alrededor de $ 2 millones en 2017-2018 a una firma llamada Babel Street para usar su servicio Locate X, según un documento (PDF) obtenido por Vice Motherboard. El contrato describe qué tipo de contenido, capacitación y atención al cliente debe proporcionar Babel Street al Servicio Secreto. Locate X proporciona datos de ubicación recopilados y recopilados de una amplia variedad de otras aplicaciones, informó el sitio de tecnología Protocol a principios de este año. Los usuarios pueden "dibujar una valla digital alrededor de una dirección o área, identificar los dispositivos móviles que estaban dentro de esa área y ver a dónde más han viajado esos dispositivos" en los últimos meses, explicó Protocol. Las agencias dependientes del Departamento de Seguridad Nacional, incluidas el Servicio de Inmigración y Control de Aduanas (ICE) y Aduanas y Protección Fronteriza (CBP), han comprado acceso a la actividad de ubicación de teléfonos celulares para investiga...

El Escándalo de las escuelas

 Sin embargo, sin excepción, eso es precisamente lo que hicieron las cuatro naciones del Reino Unido, con una fe ciega en el poder de los datos y la tecnología. Todos los partidos que gobiernan en el Reino Unido (los conservadores, los laboristas, el SNP, el DUP, el Sinn Féin e incluso los demócratas liberales (que están al frente del Ministerio de Educación de Gales)) son culpables. A nadie, en ningún lugar, le pareció que se le ocurriera cuáles podrían ser las obvias debilidades deterministas de este sistema; que incluso si un conjunto de algoritmos pudiera predecir con certeza cómo podría funcionar un individuo, entonces, por razones políticas y, sí, moral, probablemente no debería hacerlo. Para los profesores, lejos de ser una aberración, fue la apoteosis de cómo el Departamento de Educación (DfE) y los políticos habían entendido la escolarización durante una década, una década de política educativa en inglés en la que Cummings había sido un actor central como asesor de Michael...