El software de predicción de la delincuencia prometió estar libre de sesgos. Nuevos datos demuestran que los perpetúa

https://gizmodo.com/crime-prediction-software-promised-to-be-free-of-biases-1848138977

Entre 2018 y 2021, más de uno de cada 33 residentes de Estados Unidos fueron potencialmente objeto de decisiones de patrullaje policial dirigidas por un software de predicción del crimen llamado PredPol.

PUBLICIDAD

La empresa que lo fabrica envió más de 5,9 millones de estas predicciones de delitos a las agencias policiales de todo el país -de California a Florida, de Texas a Nueva Jersey- y encontramos esos informes en un servidor no seguro.

Gizmodo y The Markup los analizaron y encontraron patrones persistentes.

Los residentes de los barrios en los que PredPol sugería pocas patrullas tendían a ser más blancos y de ingresos medios o altos. Muchas de estas zonas pasaron años sin una sola predicción de delito.

Por el contrario, los barrios que el software seleccionó para aumentar el número de patrullas tenían más probabilidades de albergar a negros, latinos y familias que podían acogerse al programa federal de comidas gratuitas y reducidas.

PUBLICIDAD

Estas comunidades no sólo fueron objeto de un mayor número de patrullas, sino que, en algunos casos, fueron objeto de una vigilancia implacable. Se predijeron delitos todos los días, a veces varias veces al día, a veces en varios lugares del mismo barrio: miles y miles de predicciones de delitos durante años. Unos pocos barrios de nuestros datos fueron objeto de más de 11.000 predicciones.

El programa informático recomendaba a menudo patrullas diarias en las viviendas públicas y subvencionadas y en sus alrededores, dirigidas a los más pobres de entre los pobres.

"Las comunidades con problemas de relación con la policía no son lo que necesitan", dijo Jay Stanley, analista de políticas de la ACLU. "Necesitan recursos para cubrir las necesidades sociales básicas".

Sin embargo, el patrón se repitió en casi todos los lugares a los que miramos:

PUBLICIDAD

Los barrios de Portage (Michigan) en los que PredPol recomendó que la policía centrara sus patrullas tienen una proporción de residentes negros nueve veces mayor que la media de la ciudad. Observando las predicciones en un mapa, el activista local Quinton Bryant dijo: "Sólo les da una razón para patrullar estas áreas que son predominantemente negras y marrones y de gente pobre".

En Birmingham (Alabama), donde cerca de la mitad de los residentes son negros, las zonas con menos predicciones de delincuencia son abrumadoramente blancas. Los barrios con más tienen aproximadamente el doble de la población latina media de la ciudad. "Esta mayor densidad de presencia policial", dijo Celida Soto García, defensora de la lucha contra el hambre con sede en Birmingham, "reabre el trauma generacional y contribuye a que estas comunidades sufran".

En Los Ángeles, incluso cuando las predicciones sobre la delincuencia parecían dirigirse a un barrio mayoritariamente blanco, como la zona de Northridge, se agrupaban en las manzanas que son casi 100% latinas. Los barrios de la ciudad en los que el programa informático recomendaba que la policía pasara más tiempo eran desproporcionadamente pobres y más latinos que la ciudad en general. "Estas son las áreas de Los Ángeles que han tenido los mayores problemas de parcialidad policial", dijo Thomas A. Sáenz, presidente y consejero general del grupo de derechos civiles latinos MALDEF, con sede en Los Ángeles.

A unas 35 millas de Boston, en Haverhill (Massachusetts), PredPol recomendó que la policía centrara sus patrullas en los barrios que tienen el triple de población latina y el doble de población con bajos ingresos que la media de la ciudad. "Estas son las comunidades a las que servimos", dijo Bill Spirdione, pastor asociado de la Asamblea Cristiana de Dios Newlife y director ejecutivo de la despensa de alimentos Common Ground.

En Elgin (Illinois), suburbio de Chicago, los barrios con menos predicciones de delincuencia eran más ricos, con una proporción mayor que la media de la ciudad de familias que ganan 200.000 dólares al año o más. Los barrios con más predicciones no tenían ni una sola; en cambio, tenían el doble de residentes con bajos ingresos y más del doble de porcentaje de residentes latinos que la media de la ciudad. "Yo lo compararía con un sesgo policial por poder", dijo en una entrevista el subjefe del Departamento de Policía de Elgin, Adam Schuessler. El departamento ha dejado de utilizar el software.

En general, descubrimos que cuanto menos residentes blancos vivían en una zona -y cuanto más residentes negros y latinos vivían en ella- más probable era que PredPol predijera un delito en esa zona. La misma disparidad existía entre las comunidades más ricas y las más pobres.

En los barrios a los que más se dirigía el programa PredPol, la población negra y latina era mayor

Población de los grupos de bloques comparada con la población de toda la jurisdicción, en un promedio de 38 jurisdicciones

Población de los grupos de bloques comparada con la población de la jurisdicción general, en un promedio de 38 jurisdiccionesGráfico: Gizmodo/The Markup, PredPol, Oficina del Censo de EE.UU.

"Nadie ha hecho el trabajo que ustedes están haciendo, que consiste en examinar los datos", dijo Andrew Ferguson, profesor de derecho de la American University, que es un experto nacional en policía predictiva. "Esto no es una continuación de la investigación. En realidad, es la primera vez que alguien lo hace, lo cual es sorprendente porque la gente lleva una década pagando cientos de miles de dólares por esta tecnología."

*** Translated with www.DeepL.com/Translator (free version) ***