El crimen predecido

# El crimen predecido

En 2016, la policía de Chicago utilizó una lista generada por algoritmo llamada «Strategic Subjects List» que identificaba a personas con mayor probabilidad de cometer o ser víctimas de un crimen. Las personas en la lista no habían cometido delito alguno: el algoritmo simplemente calculó, a partir de su historial, sus conexiones sociales y su código postal, que eran peligrosas. Algunas fueron visitadas por la policía y advertidas de que estaban siendo vigiladas. No cometieron ningún crimen. El crimen era su probabilidad.

La predicción delictiva con IA es una de las aplicaciones más perturbadoras de la tecnología contemporánea. Sistemas como PredPol, HunchLab y COMPAS analizan datos históricos de criminalidad para predecir dónde ocurrirán los próximos delitos y quién es más probable que los cometa. El problema fundamental es que los datos históricos no son neutrales: reflejan décadas de policiamiento discriminatorio. Si la policía ha vigilado más a los barrios pobres, el algoritmo concluirá que los barrios pobres son más peligrosos y enviará más policía, generando más arrestos, que alimentan más datos. Es un ciclo de profecía autocumplida disfrazada de ciencia.

COMPAS, el sistema de evaluación de riesgo usedado en los tribunales de Estados Unidos, fue analizado por ProPublica en 2016. La conclusión fue demoledora: el algoritmo era significativamente más probable de clasificar como reincidentes a personas negras que a personas blancas con perfiles similares. Los falsos positivos eran el doble entre la población afroamericana. Cuando un juez basa su decisión de libertad condicional en una puntuación algorítmica sesgada, el resultado es discriminación sistémica con barniz matemático. Y lo más grave es que la objetividad aparente del algoritmo hace que el juez confíe más en la máquina que en su propio criterio, reforzando el sesgo en lugar de corregirlo.

Como escritor de distopías, no puedo evitar pensar en La máquina de la justicia, el relato de Philip K. Dick donde los precogs anticipan los crímenes antes de que ocurran y la policía arresta a los futuros delincuentes. Dick lo llamó «precrimen». Nosotros lo llamamos «análisis predictivo». La diferencia de nombre no cambia la esencia: estás siendo castigado no por lo que hiciste sino por lo que un algoritmo calculó que harías. Y a diferencia de la ficción de Dick, nuestros precogs no son seres con visiones sino líneas de código con sesgos.

La predicción delictiva es especialmente peligrosa en América Latina, donde la desigualdad y el racismo estructural ya distorsionan el sistema judicial. Si un algoritmo entrenado con datos chilenos, brasileños o mexicanos recibe el mandato de predecir crimen, replicará los sesgos de clase y raza que ya existen en nuestras policías. En Chile, donde las comunidades mapuche han sido históricamente sobrepoliciadas, un sistema predictivo inevitablemente identificaría a más indígenas como potenciales delincuentes. No estamos ante un problema tecnológico: estamos ante un problema político disfrazado de innovación.

La pregunta es simple: ¿queremos una sociedad que castigue la probabilidad? ¿Que vigile a sus ciudadanos no por lo que hacen sino por lo que podrían hacer? Desde Pucón, donde los delitos se resuelven todavía con investigación humana y diálogo comunitario, escribo para advertir que el precrimen algorítmico no es el futuro: es el presente de ciudades que ya lo implementan. Y si no lo cuestionamos ahora, mañana será tu nombre en una lista que nadie te explicó cómo se hizo.

Rolando Fryderup Krause · Escritor · Pucón, Chile