Tecnología
El deepfake de tu voz
En 2023, una madre en Arizona recibió una llamada de su hija. La voz era idéntica: el timbre, la cadencia, las pausas, incluso ese modo particular de decir «mamá».
Rolando Fryderup Krause
Escritor · Pucón, Chile
# El deepfake de tu voz
En 2023, una madre en Arizona recibió una llamada de su hija. La voz era idéntica: el timbre, la cadencia, las pausas, incluso ese modo particular de decir «mamá». La hija suplicaba que había sido secuestrada y que necesitaba dinero para ser liberada. La madre pagó. Horas después, descubrió que su hija estaba a salvo en su oficina. La voz era un clon generado por inteligencia artificial, construido a partir de tres segundos de audio publicados en redes sociales. Tres segundos bastaron para engañar a una madre.
La clonación de voz es una de las amenazas más inmediatas de la IA generativa. Herramientas como ElevenLabs, originally diseñadas para la industria del entretenimiento, permiten crear réplicas vocales casi indistinguibles de la original con muy pocos datos. En 2024, la Federal Trade Commission de Estados Unidos recibió miles de denuncias por estafas realizadas con voces clonadas. En Hong Kong, un empleado de una empresa financiera transfirió veinticinco millones de dólares a estafadores que utilizaron deepfakes de video y audio para simular una videoconferencia con los directores de la empresa.
Lo que hace a la clonación de voz tan peligrosa es que explota nuestra confianza más básica: el reconocimiento de la voz de quienes amamos. Durante milenios, la voz fue la prueba de identidad más confiable. Si escuchas la voz de tu hijo, sabes que es tu hijo. Esa certeza, que la evolución tardó millones de años en consolidar, la tecnología la destruyó en meses. Y con ella se derrumba una pieza fundamental de la confianza social: si no puedes creerle a tus oídos, ¿a qué puedes creerle?
Como escritor de distopías, pienso en las novelas de Philip K. Dick, donde la realidad siempre es sospechosa, donde nada es lo que parece. Pero Dick escribía sobre un futuro lejano. La clonación de voz es un presente accesible a cualquiera con una conexión a internet y unos dólares. Las herramientas están disponibles comercialmente, las regulaciones son inexistentes en la mayoría de los países, y las víctimas no tienen dónde acudir porque el delito es tan nuevo que los marcos legales no lo contemplan.
La respuesta no puede ser solo tecnológica. Sí, necesitamos sistemas de detección de deepfakes y marcas de agua auditivas. Pero sobre todo necesitamos educación: que cada persona sepa que la voz que escucha al teléfono puede no ser real. Que las familias establezcan códigos de verificación. Que los bancos implementen protocolos de autenticación multimodal. La era de la confianza acrítica en la voz humana ha terminado, y lamento profundamente que sea así, pero negarlo no lo revertirá.
Desde Pucón, donde la voz sigue siendo el modo más natural de comunicarse, escribo para advertir que la distopía auditiva ya está aquí. La próxima vez que alguien te llame pidiendo ayuda, tendrás que preguntarte si esa voz es realmente la persona que dices escuchar. Ese pequeño momento de duda, esa fractura en la confianza, es el daño más profundo de la clonación: no solo nos estafa, nos despoja de la certeza de que la voz de quien amamos es siempre suya. Y sin esa certeza, el mundo se vuelve un lugar más frío.
Rolando Fryderup Krause · Escritor · Pucón, Chile