Sei milioni di dollari. Questo è il prezzo da pagare per i recenti problemi legali di Steve Kramer. Nel maggio 2024, Kramer ha pagato per gli annunci rivolti agli elettori nel New Hampshire. Il messaggio utilizzava un’imitazione generata dall’intelligenza artificiale della voce del presidente Joe Biden. Ha detto ai democratici di non votare. Il risultato è stato una multa enorme.
Questo caso evidenzia un cambiamento nel modo in cui la tecnologia viene utilizzata per manipolare. Vediamo video deepfake da anni. Ora la clonazione vocale è diventata accessibile a chiunque. App come 11Labs o Resemble.io consentono agli utenti di riprodurre perfettamente le voci. Non sono richieste competenze tecniche. L’ondata di deepfake audio è iniziata.
Dalla novità alla minaccia
La maggior parte dei cloni vocali sono divertenti e innocui. I fan della cultura pop hanno utilizzato questi strumenti per creare copertine bizzarre. Immagina Kurt Cobain che canta “Don’t Look Back in Anger” degli Oasis. Oppure Drake e Rihanna si scambiano versi. Questi progetti utilizzano spesso strumenti open source come RVC. YouTube tende a vietare gli account che caricano queste simulazioni. Le piattaforme stanno reprimendo i contenuti non autorizzati.
Ma la stessa tecnologia ha un lato oscuro. I cattivi attori vedono un’opportunità. A loro non interessano le cover musicali. Si preoccupano dell’influenza. Si preoccupano dei soldi.
Furto d’identità e rischi bancari
Il riconoscimento vocale sta diventando una misura di sicurezza standard. Molte app bancarie lo utilizzano. Capital One, ad esempio, consente ai clienti di utilizzare Amazon Alexa per i pagamenti. Se un’intelligenza artificiale può imitare la tua voce, può aggirare tale sicurezza.
Questo non è ipotetico. Qualsiasi applicazione che utilizza la voce come “chiave” è vulnerabile. Una volta ottenuto un clone di alta qualità, puoi accedere agli account. La barriera all’ingresso è bassa. Il danno potenziale è elevato.
Disinformazione su vasta scala
I personaggi pubblici sono gli obiettivi principali. Una falsa intervista con Tim Cook è circolata su TikTok nel 2022. Il video generato dall’intelligenza artificiale affermava che Apple stava rilasciando prodotti inesistenti. Gli investitori e i fan sono rimasti brevemente confusi. Il mercato ha reagito. È stato uno spavento di breve durata, ma ha dimostrato il punto.
Nel 2023, un incidente simile ha coinvolto Vladimir Putin. Una registrazione audio suggeriva che stesse ordinando il ritiro militare dall’Ucraina. Ha causato una vera confusione. Questi eventi non sono solo scherzi. Sono strumenti per diffondere informazioni false. Erodono la fiducia nei media.
Privacy e battaglie legali
Le celebrità stanno reagendo. Scarlett Johansson ha citato in giudizio Convert Software alla fine del 2023. La società ha pubblicato un annuncio per “Lisa AI: annuario e avatar degli anni ’90”. L’annuncio utilizzava un’imitazione non autorizzata della sua voce. Era una chiara violazione dei suoi diritti. Johansson non ha acconsentito all’uso della sua immagine.
Questo caso costituisce un precedente. Ciò dimostra che la clonazione vocale è una violazione della privacy. Non è solo una questione tecnologica. È legale. I diritti vengono messi alla prova. I tribunali dovranno decidere come proteggere gli individui in un’epoca di mimetismo perfetto.
La truffa del CEO diventa realtà
Le aziende sono state colpite dalle “truffe dei CEO” da oltre un decennio. Un dipendente riceve una chiamata. La voce sembra quella del capo. Richiede un bonifico urgente. Il dipendente obbedisce. È un trucco semplice. Ma prima richiedeva abilità.
Ora è facile. Di recente ne è stata vittima una società energetica britannica. Un dipendente ha ricevuto una chiamata da qualcuno che imitava il suo superiore. La voce generata dall’intelligenza artificiale richiedeva un trasferimento di $ 220.000 su un conto bancario ungherese. La richiesta era urgente. Probabilmente il dipendente credeva che fosse reale.
Strumenti come 11Labs hanno cambiato il gioco. Non è necessario essere un hacker. Hai solo bisogno di un’app e di un campione della voce del bersaglio. La truffa ora è scalabile. È più veloce. È più economico È pericoloso.
Stiamo entrando in un periodo in cui sentire non è più credere. Il confine tra realtà e simulazione è sempre più sfumato. La multa di Steve Kramer è un avvertimento. Ma la tecnologia non si fermerà. Andrà solo meglio. Ciò che accadrà dopo dipenderà dai tribunali, dalle piattaforme e da noi.
