Zes miljoen dollar. Dat is het prijskaartje dat aan de recente juridische problemen van Steve Kramer hangt. In mei 2024 betaalde Kramer voor advertenties die gericht waren op kiezers in New Hampshire. Het bericht maakte gebruik van een door AI gegenereerde imitatie van de stem van president Joe Biden. Het vertelde de Democraten niet te stemmen. Het gevolg was een enorme boete.
Deze casus benadrukt een verschuiving in de manier waarop technologie wordt gebruikt om te manipuleren. We zien al jaren deepfake-video’s. Nu is het klonen van stemmen voor iedereen toegankelijk geworden. Met apps als 11Labs of Resemble.io kunnen gebruikers stemmen perfect reproduceren. Er zijn geen technische vaardigheden vereist. De vloed aan audio-deepfakes is begonnen.
Van nieuwigheid naar bedreiging
De meeste stemklonen zijn onschuldig leuk. Fans van popcultuur hebben deze tools gebruikt om bizarre covers te maken. Stel je voor dat Kurt Cobain ‘Don’t Look Back in Anger’ van Oasis zingt. Of Drake en Rihanna die verzen uitwisselen. Deze projecten maken vaak gebruik van open-sourcetools zoals RVC. YouTube heeft de neiging accounts te verbieden die deze simulaties uploaden. De platforms treden hard op tegen ongeautoriseerde inhoud.
Maar dezelfde technologie heeft een donkere kant. Slechte acteurs zien een kans. Ze geven niets om muziekcovers. Het gaat hen om invloed. Ze geven om geld.
Identiteitsdiefstal en bankrisico’s
Spraakherkenning wordt een standaard beveiligingsmaatregel. Veel bankapps maken er gebruik van. Met Capital One kunnen klanten bijvoorbeeld Amazon Alexa gebruiken voor betalingen. Als een AI jouw stem kan nabootsen, kan hij die beveiliging omzeilen.
Dit is niet hypothetisch. Elke toepassing die stem als “sleutel” gebruikt, is kwetsbaar. Zodra u een kloon van hoge kwaliteit heeft, heeft u toegang tot accounts. De toetredingsdrempel is laag. De potentiële schade is groot.
Desinformatie op schaal
Publieke figuren zijn het voornaamste doelwit. In 2022 circuleerde er een nep-interview met Tim Cook op TikTok. De door AI gegenereerde video beweerde dat Apple niet-bestaande producten uitbracht. Beleggers en fans waren even in verwarring. De markt reageerde. Het was een kortstondige schrik, maar het bewees het punt.
In 2023 was Vladimir Poetin bij een soortgelijk incident betrokken. Uit een audio-opname bleek dat hij opdracht gaf tot een militaire terugtrekking uit Oekraïne. Het zorgde voor echte verwarring. Deze gebeurtenissen zijn niet alleen grappen. Het zijn instrumenten voor het verspreiden van valse informatie. Ze ondermijnen het vertrouwen in de media.
Privacy en juridische gevechten
Beroemdheden vechten terug. Scarlett Johansson heeft eind 2023 Convert Software aangeklaagd. Het bedrijf plaatste een advertentie voor “Lisa AI: 90s Yearbook & Avatar.” In de advertentie werd een ongeoorloofde imitatie van haar stem gebruikt. Het was een duidelijke schending van haar rechten. Johansson stemde niet in met het gebruik van haar beeltenis.
Deze zaak schept een precedent. Het laat zien dat stemklonen een schending van de privacy is. Het is niet alleen een technisch probleem. Het is een juridische. Rechten worden getest. Rechtbanken zullen moeten beslissen hoe individuen beschermd moeten worden in een tijdperk van perfecte nabootsing.
De CEO-zwendel wordt werkelijkheid
Bedrijven worden al meer dan tien jaar getroffen door ‘CEO-oplichting’. Een medewerker wordt gebeld. De stem klinkt als de baas. Er wordt om een dringende overboeking gevraagd. De medewerker voldoet. Het is een simpele truc. Maar vroeger was er vaardigheid voor nodig.
Nu is het gemakkelijk. Een Brits energiebedrijf werd hier onlangs het slachtoffer van. Een medewerker kreeg een telefoontje van iemand die zijn leidinggevende nabootste. De door AI gegenereerde stem eiste een overboeking van $ 220.000 naar een Hongaarse bankrekening. Het verzoek was dringend. De medewerker geloofde waarschijnlijk dat het echt was.
Tools zoals 11Labs hebben het spel veranderd. Je hoeft geen hacker te zijn. Je hebt alleen een app en een voorbeeld van de stem van het doelwit nodig. De zwendel is nu schaalbaar. Het is sneller. Het is goedkoper. Het is gevaarlijk.
We gaan een periode in waarin horen niet langer geloven is. De grens tussen realiteit en simulatie vervaagt. De boete voor Steve Kramer is een waarschuwing. Maar de technologie zal niet stoppen. Het zal alleen maar beter worden. Wat er daarna gebeurt, is aan de rechtbanken, de platforms en ons.
