Abolir la Vigilancia con IA

https://onezero.medium.com/abolish-a-i-proctoring-c9e017dd764f

Durante la pandemia, las empresas de tecnología educativa experimentaron un aumento del 900% en los negocios una vez que las escuelas comenzaron a cerrar los campus y restringir los visitantes. Estas empresas se lanzaron con software infundido en inteligencia artificial diseñado para evitar que los estudiantes hicieran trampa. Estos algoritmos de supervisión pueden verificar quién está realizando un examen a través de la verificación facial. También pueden monitorear a los examinados, examinando su comportamiento en busca de signos de irregularidades que puedan indicar una trampa, como apartar la mirada de la pantalla.

Los críticos sostienen que el software promueve la injusticia, la invasión de la privacidad y la ansiedad infligida indebidamente. La situación es tan grave que el Electronic Privacy Information Center (EPIC), una organización de investigación de interés público, presentó una queja ante la oficina del fiscal general de D.C. contra algunas de las principales empresas: Proctorio, ProctorU, Honorlock, Examity y Respondus.

Una vez que la pandemia termine, todo no volverá a la normalidad. El controvertido software de tecnología educativa seguirá siendo una infraestructura de prueba esencial si la lucha contra él no se intensifica. Fundamentalmente, debemos considerar los impactos a largo plazo de obligar a los estudiantes a ajustarse a estos sistemas. A Lindsay Oliver, directora de proyectos de activismo de la Electronic Frontier Foundation, le preocupa que la vigilancia educativa pueda tener repercusiones negativas duraderas. Le preocupa que los estudiantes sometidos a las formas actuales de supervisión educativa "pueden ser menos propensos a rebelarse contra el software espía desplegado por sus jefes en el trabajo o por socios abusivos".

Para llegar a la raíz de estos problemas, evaluar los daños y explorar posibles soluciones, estoy encantado de hablar con Chris Gilliard, profesor de inglés en Macomb Community College. Chris es una voz líder en los estudios de vigilancia y gran parte de su trabajo se centra en las intersecciones entre la privacidad, las libertades civiles, la raza, la clase y la tecnología. A lo largo de los años, las conversaciones regulares con Chris sobre los impactos dispares de la vigilancia y las desalineaciones entre las prioridades corporativas y los valores que una democracia liberal debería priorizar han influido profundamente en mi pensamiento sobre el diseño tecnológico y la política tecnológica.

Nuestra conversación ha sido editada y condensada para mayor claridad.

Evan: Para crear un contexto para nuestra discusión sobre los nuevos métodos de supervisión, comencemos por reflexionar sobre un enfoque de la vieja escuela. Los maestros evalúan a los estudiantes con regularidad, y durante mucho tiempo es una práctica estándar que cuando los instructores dan exámenes en las aulas, no suponen que todos los estudiantes seguirán las reglas. En cambio, miran a su alrededor para desalentar las trampas.

Las miradas frecuentes, incluso las rápidas, pueden disuadir el mal comportamiento, como compartir respuestas y mirar hojas de trucos. Esta inspección es una forma de vigilancia. Siempre que el escrutinio sea justo, muchos lo consideran un enfoque legítimo para mantener la integridad académica. Una característica clave de la equidad es que los profesores deben centrar su atención sin prejuicios. Si los instructores solo se concentran en las minorías, por ejemplo, su comportamiento sugiere que estos grupos merecen una mayor investigación, que son menos confiables que otros.

Reconociendo que hay muchas formas de supervisar mal las pruebas en clase, consideremos un caso ideal. En este escenario, los maestros observan a los estudiantes de manera justa en todas las formas esenciales. ¿Es esta una vigilancia adecuada?

Chris: Me alegro de que comiences nuestra conversación refiriéndote a esta observación como vigilancia y no solo a los profesores que caminan por el salón. ¡A menudo tengo que convencer a otros de este punto! Su caso ideal, sin embargo, es menos instructivo de lo que parece en la superficie. Se encuentra en la intersección de la ética y la pedagogía de una manera que pocos escenarios del mundo real reflejan.