Cuidado con la atracción de las narrativas: Los "jueces hambrientos" no deben motivar el uso de la "inteligencia artificial" en el Derecho

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4011603

Resumen: El efecto "juez hambriento", presentado por un famoso estudio, es un punto de referencia común para subrayar el sesgo humano en la toma de decisiones judiciales. Esto es particularmente pronunciado en la literatura sobre la "inteligencia artificial" (IA) en el derecho. En este caso, el efecto se invoca para contrarrestar la preocupación por el sesgo de las ayudas a la decisión automatizadas y para motivar su uso. Sin embargo, la validez del efecto "juez hambriento" es dudosa. En nuestro contexto, esto es problemático por, al menos, dos razones. En primer lugar, las pruebas poco sólidas conducen a una construcción errónea del problema que puede justificar una intervención de la IA. En segundo lugar, pintar el sistema de justicia peor de lo que realmente es, es una estrategia argumentativa peligrosa, ya que socava la confianza institucional. En este contexto, este artículo revisa el estudio original de los "jueces hambrientos" y argumenta que no se puede confiar en él como argumento en el discurso de la IA o más allá. El caso de los "jueces hambrientos" demuestra el atractivo de las narrativas, los peligros de la "manipulación del problema" y, en última instancia, la necesidad de una recepción cuidadosa de las ciencias sociales.