Seis millones de dólares. Ése es el precio que se le atribuye a los recientes problemas legales de Steve Kramer. En mayo de 2024, Kramer pagó anuncios dirigidos a votantes de New Hampshire. El mensaje utilizó una imitación de la voz del presidente Joe Biden generada por IA. Les dijo a los demócratas que no votaran. El resultado fue una multa enorme.
Este caso pone de relieve un cambio en la forma en que se utiliza la tecnología para manipular. Llevamos años viendo vídeos deepfake. Ahora, la clonación de voz es accesible para cualquiera. Aplicaciones como 11Labs o Resemble.io permiten a los usuarios reproducir voces a la perfección. No se requieren habilidades técnicas. La avalancha de deepfakes de audio ha comenzado.
De la novedad a la amenaza
La mayoría de los clones de voz son divertidos e inofensivos. Los fanáticos de la cultura pop han utilizado estas herramientas para crear portadas extrañas. Imagínese a Kurt Cobain cantando “Don’t Look Back in Anger” de Oasis. O Drake y Rihanna intercambiando versos. Estos proyectos suelen utilizar herramientas de código abierto como RVC. YouTube tiende a prohibir las cuentas que suben estas simulaciones. Las plataformas están tomando medidas enérgicas contra el contenido no autorizado.
Pero la misma tecnología tiene un lado más oscuro. Los malos actores ven una oportunidad. No les importan las versiones musicales. Les importa la influencia. Les importa el dinero.
Robo de identidad y riesgos bancarios
El reconocimiento de voz se está convirtiendo en una medida de seguridad estándar. Muchas aplicaciones bancarias lo utilizan. Capital One, por ejemplo, permite a los clientes utilizar Amazon Alexa para realizar pagos. Si una IA puede imitar su voz, puede eludir esa seguridad.
Esto no es hipotético. Cualquier aplicación que utilice la voz como “clave” es vulnerable. Una vez que tenga un clon de alta calidad, podrá acceder a las cuentas. La barrera de entrada es baja. El daño potencial es alto.
Desinformación a escala
Las figuras públicas son los objetivos principales. En 2022 circuló en TikTok una entrevista falsa con Tim Cook. El vídeo generado por IA afirmaba que Apple estaba lanzando productos inexistentes. Los inversores y los aficionados estuvieron brevemente confundidos. El mercado reaccionó. Fue un susto de corta duración, pero demostró el punto.
En 2023, un incidente similar involucró a Vladimir Putin. Una grabación de audio sugirió que estaba ordenando una retirada militar de Ucrania. Causó una auténtica confusión. Estos eventos no son sólo bromas. Son herramientas para difundir información falsa. Erosionan la confianza en los medios.
Privacidad y batallas legales
Las celebridades están contraatacando. Scarlett Johansson demandó a Convert Software a finales de 2023. La empresa publicó un anuncio de “Lisa AI: 90s Yearbook & Avatar”. El anuncio utilizó una imitación no autorizada de su voz. Fue una clara violación de sus derechos. Johansson no dio su consentimiento para el uso de su imagen.
Este caso sienta un precedente. Demuestra que la clonación de voz es una violación de la privacidad. No es sólo una cuestión tecnológica. Es uno legal. Los derechos están siendo puestos a prueba. Los tribunales tendrán que decidir cómo proteger a los individuos en una época de mimetismo perfecto.
La estafa del CEO se vuelve real
Las empresas se han visto afectadas por “estafas de directores ejecutivos” durante más de una década. Un empleado recibe una llamada. La voz suena como la del jefe. Solicita una transferencia bancaria urgente. El empleado cumple. Es un truco sencillo. Pero solía requerir habilidad.
Ahora es fácil. Una empresa energética británica fue víctima de esto recientemente. Un empleado recibió una llamada de alguien que imitaba a su superior. La voz generada por IA exigía una transferencia de 220.000 dólares a una cuenta bancaria húngara. La petición era urgente. El empleado probablemente creyó que era real.
Herramientas como 11Labs han cambiado las reglas del juego. No es necesario ser un hacker. Sólo necesitas una aplicación y una muestra de la voz del objetivo. La estafa ahora es escalable. Es más rápido. Es más barato. Es peligroso.
Estamos entrando en una época en la que oír ya no es creer. La línea entre realidad y simulación se está desdibujando. La multa a Steve Kramer es una advertencia. Pero la tecnología no se detendrá. Sólo mejorará. Lo que suceda a continuación depende de los tribunales, de las plataformas y de nosotros.
