Vigilancia
El algoritmo que te conoce mejor que tú
Netflix sabe cuándo pausas, cuándo rebobinas, cuándo abandonas. TikTok predice tu estado de ánimo con tres videos que ves.
Rolando Fryderup Krause
Escritor · Pucón, Chile
# El algoritmo que te conoce mejor que tú
Netflix sabe cuándo pausas, cuándo rebobinas, cuándo abandonas. TikTok predice tu estado de ánimo con tres videos que ves. Amazon sabe qué vas a comprar antes que tú. Spotify arma playlists que suenan como si un amigo íntimo las hubiera seleccionado. Estas plataformas no adivinan: calculan. Cada clic, cada pausa, cada abandono es un dato que alimenta un modelo predictivo que se perfecciona con cada interacción. Y ese modelo te conoce mejor que tu pareja, tu terapeuta y, a menudo, mejor que tú mismo.
La ingeniería detrás de esta capacidad es impresionante y aterradora. Los algoritmos de recomendación no solo analizan tu comportamiento explícito; detectan patrones subconscientes. Un estudio del MIT demostró que los modelos de aprendizaje automático pueden inferir rasgos de personalidad, orientación sexual, tendencias políticas y estados emocionales a partir de datos de navegación que el usuario ni siquiera sabía que generaba. Es decir, el algoritmo descubre cosas de ti que tú aún no has descubierto. Y lo hace con una precisión que desafía la intuición.
¿Por qué importa? Porque el conocimiento es poder, y cuando ese conocimiento está en manos de corporaciones con fines de lucro, se usa para manipular. No en el sentido conspirativo de un villano con bigote, sino en el sentido técnico de optimizar tu conducta para maximizar el tiempo que pasas en la plataforma, el dinero que gastas y los datos que produces. Tu atención es el producto, tu comportamiento es la materia prima y tu autonomía es el costo oculto. La economía de la atención no es una metáfora: es un sistema de extracción que opera con la misma lógica que la minería a cielo abierto.
En la ficción distópica, el algoritmo que te conoce mejor que tú es el precursor del algoritmo que decide por ti. Si sabe qué quieres antes que tú, ¿por qué no elegir por ti? ¿Por qué no filtrar las noticias que lees, los productos que compras, los candidatos que prefieres? No por maldad sino por eficiencia: el algoritmo simplemente te da lo que quieres antes de que sepas que lo quieres. Y así, sin darte cuenta, tu universo de opciones se estrecha hasta convertirse en un corredor donde todas las puertas abren al mismo lugar.
El salto de la predicción a la prescripción es imperceptible pero definitivo. Cuando el algoritmo no solo anticipa lo que quieres sino que determina lo que puedes querer, la predicción se convierte en receta. No te sugiere: te orquesta. Como escritor de distopía, me interesa ese punto exacto donde la recomendación se vuelve mandato invisible. En "El crudo invierno del 91", los personajes creen elegir porque el menú es variado, pero todas las opciones conducen al mismo lugar. Esa es la perfección del algoritmo: hacerte sentir libre mientras estrecha tu horizonte hasta que solo queda lo que él decidió.
La distopía no es que la máquina piense por nosotros. Es que dejemos de notar la diferencia entre elegir y ser elegido. Cuando el menú de opciones está diseñado por un algoritmo que conoce tus debilidades, la libertad de elegir se convierte en la ilusión de elegir. Y eso, como intento mostrar en mis historias, es el tipo más sutil y más peligroso de control: el que no se siente, el que se celebra, el que se confunde con la libertad misma.
Rolando Fryderup Krause · Escritor · Pucón, Chile