La sentencia algorítmica

# La sentencia algorítmica

En 2023, un tribunal de China utilizó un sistema de IA para generar la sentencia completa de un caso civil. El juez simplemente revisó y firmó el documento que el algoritmo produjo. El sistema, llamado «Juez Inteligente», fue presentado como una herramienta de eficiencia para descongestionar tribunales. Pero la pregunta que nadie se hizo es: si la máquina escribe la sentencia, ¿quién juzga? ¿El juez que firma o el algoritmo que decide? Y si el algoritmo se equivoca, ¿a quién apelas?

China no está sola. En Estados Unidos, el sistema COMPAS ya influye en decisiones sobre libertad condicional y sentencias. En India, el sistema SUPACE asiste a jueces en la investigación de casos penales. En Francia, la inteligencia artificial se utiliza para analizar jurisprudencia y predecir resultados. La tendencia es global y la justificación es siempre la misma: eficiencia, velocidad, reducción de costos. Lo que nunca se menciona es el costo que no se puede medir: la compasión, el contexto, la humanidad.

La justicia no es solo la aplicación mecánica de la ley. Un juez humano puede considerar circunstancias atenuantes que no están en los datos: el contexto familiar, el arrepentimiento genuino, la desesperación que condujo al delito. Puede dudar, puede ser misericordioso, puede ver al acusado como persona y no como caso. Un algoritmo no puede hacer ninguna de esas cosas. Procesa variables y produce una puntuación. La puntuación no tiene compasión porque la compasión no es una variable cuantificable. Y sin compasión, la justicia se convierte en administración.

El problema de la apelación es especialmente grave. Cuando un juez humano dicta sentencia, puedes argumentar que se equivocó en la valoración de las pruebas, que no consideró ciertos factores, que fue excesivo. Cuando un algoritmo dicta sentencia, ¿cómo apelas? ¿Argumentas contra una fórmula matemática? ¿Exiges que la red neuronal explique su razonamiento? La transparencia judicial, pilar del Estado de derecho, es incompatible con la caja negra algorítmica. No puedes apelar lo que no puedes entender.

Como escritor de distopías, pienso en El proceso de Kafka, donde Josef K. es juzgado por un sistema que no comprende y al que no puede acceder. La metáfora kafkiana se ha vuelto literal: el tribunal algorítmico es el tribunal invisible, el que decide sin rostro y sin explicación. Y a diferencia del mundo de Kafka, en el nuestro la eficiencia se utiliza como justificación para la opacidad. Es más rápido, dicen. Sí, y una guillotina es más rápida que un juicio con jurado. La velocidad no es un valor judicial. La justicia lo es.

Desde Pucón, donde la justicia llega lenta pero llega, escribo para defender el derecho a ser juzgado por un humano. No porque los humanos sean perfectos, sino porque son capaces de ver al otro como ser humano. La sentencia algorítmica es el final de la justicia como acto moral: la convierte en cálculo. Y si permitimos que el cálculo reemplace al juicio, estaremos construyendo un sistema judicial que procesa personas como datos, sin mirarlas a los ojos, sin preguntarles su nombre, sin considerar que detrás de cada expediente hay una vida.

Rolando Fryderup Krause · Escritor · Pucón, Chile