¿El potencial democratizador de los algoritmos?

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3835370

Las jurisdicciones están adoptando cada vez más el uso de algoritmos de evaluación del riesgo antes del juicio como solución al problema del encarcelamiento masivo antes del juicio. Los debates sobre el uso de algoritmos de evaluación de riesgos en la fase previa al juicio han tendido a centrarse en su opacidad, determinación, fiabilidad, validez o su (in)capacidad para reducir las altas tasas de encarcelamiento, así como las disparidades raciales y socioeconómicas dentro del sistema de prisión preventiva. Este artículo rompe con esta tendencia, examinando estos algoritmos desde la perspectiva de la democratización del derecho penal. Utilizando este marco, señala que los algoritmos empleados actualmente excluyen los puntos de vista y los valores de las comunidades racialmente marginadas más afectadas por su uso, ya que estos algoritmos a menudo se obtienen, se adoptan, se construyen y se supervisan sin la aportación de estas comunidades.

Este estado de cosas debería hacer que el entusiasmo por el potencial transformador de los algoritmos previos al juicio fuera menor, ya que refuerzan y afianzan la exclusión democrática que los miembros de estas comunidades ya experimentan en la creación y aplicación de las leyes y políticas que dan forma a las prácticas previas al juicio. Esta exclusión democrática, junto con la marginación social, contribuye a las dificultades a las que se enfrentan estas comunidades a la hora de impugnar y resistir los costes políticos, sociales y económicos que el encarcelamiento preventivo ha tenido y sigue teniendo sobre ellas. En última instancia, este artículo subraya que resolver esta exclusión democrática y sus efectos de estratificación racial podría ser posible, pero requiere desplazar el poder sobre los algoritmos de la prisión preventiva hacia estas comunidades. Lamentablemente, la realización de esta prescripción puede ser inconciliable con los objetivos que buscan los reformadores de los algoritmos, lo que revela una profunda tensión entre el proyecto de los algoritmos y los esfuerzos de justicia racial.