Šest milionů dolarů. Toto je cena, která byla spojena s nedávnými právními problémy Steva Cramera. V květnu 2024 Cramer zaplatil za reklamní kampaň zaměřenou na voliče v New Hampshire. Zpráva používala umělou inteligencí generovanou imitaci hlasu prezidenta Joe Bidena. Vyzval demokraty, aby nehlasovali. Výsledkem byla obrovská pokuta.
Tento případ poukazuje na posun ve způsobu, jakým se technologie používá k manipulaci. Hluboká falešná videa jsme viděli už roky. Nyní je klonování hlasu dostupné všem. Aplikace jako 11Labs nebo Resemble.io umožňují uživatelům dokonale reprodukovat hlasy. K tomu nejsou potřeba žádné technické dovednosti. Začala záplava audio deepfakes.
Od novosti k hrozbě
Většina hlasových klonů je neškodná zábava. Fanoušci pop kultury využili tyto nástroje k vytvoření podivných obalů. Představte si, že Kurt Cobain zpívá píseň Oasis „Don’t Look Back in Anger“. Nebo jak si Drake a Rihanna vyměňují verše. Tyto projekty často využívají open source nástroje, jako je RVC. YouTube obvykle blokuje účty, které takové simulace nahrávají. Platformy zpřísňují represe proti nepovolenému obsahu.
Stejná technologie má ale i stinnou stránku. Útočníci vidí příležitost. O obaly hudby nemají zájem. Zajímají se o vliv. Zajímají je peníze.
Krádež identity a rizika pro banky
Rozpoznávání hlasu se stává standardním bezpečnostním opatřením. Používá to mnoho bankovních aplikací. Například Capital One umožňuje zákazníkům používat k placení Amazon Alexa. Pokud umělá inteligence dokáže napodobit váš hlas, může tuto ochranu obejít.
Toto není hypotetický scénář. Každá aplikace, která používá hlas jako „klíč“, je zranitelná. Jakmile budete mít vysoce kvalitní klon, můžete přistupovat k účtům. Vstupní bariéra je nízká. Potenciální škoda je vysoká.
Dezinformace ve velkém měřítku
Prvním cílem jsou veřejné osobnosti. V roce 2022 koloval na TikTok falešný rozhovor s Timem Cookem. Video vytvořené AI tvrdilo, že Apple vydává neexistující produkty. Investoři a fanoušci byli krátce zmateni. Trh reagoval. Byla to chvilková panika, ale ukázalo se, že má smysl.
V roce 2023 došlo k podobnému incidentu s Vladimirem Putinem. Zvukový záznam napovídal, že nařizuje stažení vojsk z Ukrajiny. To způsobilo skutečný zmatek. Tyto události nejsou jen vtipy. Jsou to nástroje pro šíření nepravdivých informací. Podkopávají důvěru v média.
Ochrana osobních údajů a soudní spory
Celebrity se brání. Scarlett Johansson podala žalobu na Convert Software na konci roku 2023. Společnost inzerovala “Lisa AI: 90s Yearbook & Avatar”. V reklamě byla použita nepovolená imitace jejího hlasu. Bylo to jasné porušení jejích práv. Johansson nedala souhlas k použití svého obrazu.
Tento případ vytváří precedens. Ukazuje, že klonování hlasu je porušením soukromí. Nejde jen o technologický problém. To je právní problém. Práva jsou testována na sílu. Soudy budou muset rozhodnout, jak ochránit lidi ve věku dokonalé imitace.
Podvody generálních ředitelů se stávají realitou
Obchodní podvody, jako je podvod s generálním ředitelem, sužují společnosti již více než deset let. Zaměstnanec přijme hovor. Hlas zní jako hlas šéfa. Žádá o urgentní převod peněz. Zaměstnanec poslechne. To je jednoduchý trik. Ale předtím to vyžadovalo dovednosti.
Nyní je to snadné. Nedávno se toho stala obětí britská energetická společnost. Zaměstnanec přijal hovor od osoby napodobující jeho šéfa. Hlas generovaný AI požadoval převedení 220 000 dolarů na maďarský bankovní účet. Žádost byla naléhavá. Zaměstnanec pravděpodobně uvěřil, že je to skutečné.
Nástroje jako 11Labs změnily hru. Nemusíte být hacker. Potřebujete pouze aplikaci a ukázku hlasu cíle. Podvody jsou nyní škálovatelné. Je to rychlejší. Je to levnější. Je to nebezpečné.
Vstupujeme do období, kdy fáma již není důkazem pravdy. Hranice mezi realitou a simulací se stírá. Pokuta Steva Kramera je varováním. Ale technologie se nezastaví. Bude se jen zlepšovat. Co se stane dál, záleží na lodích, platformách a nás.
