Sześć milionów dolarów. Oto cena, jaką wyznaczono za niedawne kłopoty prawne Steve’a Cramera. W maju 2024 r. Cramer zapłacił za kampanię reklamową skierowaną do wyborców w New Hampshire. W wiadomości wykorzystano wygenerowaną przez sztuczną inteligencję imitację głosu prezydenta Joe Bidena. Wezwał Demokratów, aby nie głosowali. Efektem była ogromna kara.
Ten przypadek uwypukla zmianę w sposobie wykorzystywania technologii do manipulacji. Od lat oglądamy filmy zawierające deepfake. Teraz klonowanie głosu stało się dostępne dla każdego. Aplikacje takie jak 11Labs lub Resemble.io pozwalają użytkownikom doskonale odtwarzać głosy. Nie są do tego potrzebne żadne umiejętności techniczne. Rozpoczęła się powódź deepfake’ów audio.
Od nowości do zagrożenia
Większość klonów głosowych to nieszkodliwa zabawa. Fani popkultury używali tych narzędzi do tworzenia dziwnych okładek. Wyobraź sobie Kurta Cobaina śpiewającego „Don’t Look Back in Anger” zespołu Oasis. Albo jak Drake i Rihanna wymieniają się wierszami. Projekty te często korzystają z narzędzi open source, takich jak RVC. YouTube zazwyczaj blokuje konta, które przesyłają takie symulacje. Platformy zaostrzają walkę z nieautoryzowanymi treściami.
Ale ta sama technologia ma też ciemną stronę. Napastnicy widzą szansę. Nie interesują ich covery muzyczne. Są zainteresowani wpływem. Interesują ich pieniądze.
Kradzież tożsamości i ryzyko dla banków
Rozpoznawanie głosu staje się standardowym środkiem bezpieczeństwa. Korzysta z niego wiele aplikacji bankowych. Na przykład Capital One umożliwia klientom korzystanie z Amazon Alexa do płacenia. Jeśli sztuczna inteligencja może naśladować Twój głos, może ominąć tę ochronę.
To nie jest hipotetyczny scenariusz. Każda aplikacja używająca głosu jako „klucza” jest podatna na ataki. Gdy uzyskasz klon wysokiej jakości, możesz uzyskać dostęp do kont. Bariera wejścia jest niska. Potencjalne szkody są duże.
Dezinformacja na dużą skalę
Pierwszym celem są osoby publiczne. W 2022 roku w TikToku krążył fałszywy wywiad z Timem Cookiem. Film wygenerowany przez sztuczną inteligencję twierdził, że Apple wypuszcza nieistniejące produkty. Inwestorzy i fani byli na chwilę zdezorientowani. Rynek zareagował. To była chwilowa panika, ale się potwierdziła.
W 2023 roku do podobnego incydentu doszło z Władimirem Putinem. Z nagrania dźwiękowego wynika, że wydawał on rozkaz wycofania wojsk z Ukrainy. To wywołało prawdziwe zamieszanie. Te wydarzenia to nie tylko żarty. Są to narzędzia służące do rozpowszechniania fałszywych informacji. Podważają zaufanie do mediów.
Prywatność i spory sądowe
Gwiazdy bronią się. Scarlett Johansson złożyła pozew przeciwko Convert Software pod koniec 2023 roku. Firma reklamowała „Lisa AI: 90s Yearbook & Avatar”. W reklamie wykorzystano nieautoryzowaną imitację jej głosu. Było to jawne naruszenie jej praw. Johansson nie wyraziła zgody na wykorzystanie jej wizerunku.
Ta sprawa stanowi precedens. Pokazuje, że klonowanie głosu jest naruszeniem prywatności. To nie jest tylko problem technologiczny. Jest to problem prawny. Prawa są sprawdzane pod kątem siły. Sądy będą musiały zdecydować, jak chronić ludzi w epoce doskonałego naśladownictwa.
Oszustwa dyrektorów generalnych stają się rzeczywistością
Oszustwa biznesowe, takie jak oszustwo na dyrektora generalnego, nękają firmy od ponad dziesięciu lat. Pracownik odbiera telefon. Głos brzmi jak głos szefa. Prosi o pilny przelew pieniędzy. Pracownik jest posłuszny. To prosta sztuczka. Ale wcześniej wymagało to umiejętności.
Teraz jest to łatwe. Niedawno ofiarą tego stała się brytyjska firma energetyczna. Pracownik otrzymał telefon od osoby naśladującej swojego szefa. Głos wygenerowany przez sztuczną inteligencję zażądał przelewu 220 000 dolarów na węgierskie konto bankowe. Prośba była pilna. Pracownik prawdopodobnie wierzył, że to prawda.
Narzędzia takie jak 11Labs zmieniły grę. Nie musisz być hakerem. Wystarczy aplikacja i próbka głosu celu. Oszustwa są teraz skalowalne. Jest szybciej. Jest taniej. To niebezpieczne.
Wkraczamy w okres, w którym plotki nie są już dowodem prawdy. Granica między rzeczywistością a symulacją zaciera się. Kara Steve’a Kramera jest ostrzeżeniem. Ale technologia się nie zatrzyma. Będzie tylko lepiej. To, co stanie się dalej, zależy od statków, platform i nas.
