Шість мільйонів доларів. Саме таку ціну було закріплено за недавніми юридичними проблемами Стіва Крамера. У травні 2024 року Крамер сплатив рекламну кампанію, спрямовану на виборців у Нью-Гемпширі. У повідомленні використовувалася створена штучним інтелектом імітація голосу президента Джо Байдена. Воно закликало демократів не голосувати. Результатом став величезний штраф.
Цей випадок наголошує на зрушенні в способах використання технологій для маніпуляції. Ми роками бачили дипфейк-відео. Тепер клонування голосу стало доступним кожному. Такі програми, як 11Labs або Resemble.io дозволяють користувачам ідеально відтворювати голоси. Для цього не потрібні технічні навички. Почався потік аудіо-дипфейків.
Від новинки до загрози
Більшість голосових клонів — це невинна розвага. Фанати поп-культури використали ці інструменти для створення дивних каверів. Уявіть, як Курт Кобейн співає пісню Oasis “Don’t Look Back in Anger”. Або як Дрейк та Ріанна змінюються куплетами. Ці проекти часто використовують інструменти з відкритим кодом, такі як RVC. YouTube зазвичай блокує облікові записи, які завантажують такі симуляції. Платформи посилюють боротьбу із несанкціонованим контентом.
Але в тієї ж технології є темна сторона. Зловмисники бачать нагоду. Їх не цікавлять музичні кавери. Їх цікавить вплив. Їх цікавлять гроші.
Крадіжка особистості та ризики для банків
Голосове розпізнавання стає стандартним заходом безпеки. Багато банківських додатків використовують його. Наприклад, Capital One дозволяє клієнтам використовувати Amazon Alexa для оплати. Якщо ІІ може імітувати ваш голос, він може обійти цей захист.
Це не гіпотетичний сценарій. Будь-яка програма, яка використовує голос як «ключ», вразлива. Як тільки у вас з’являється високоякісний клон, ви можете отримати доступ до рахунків. Низький поріг входу. Потенційні збитки високі.
Дезінформація в масштабі
Громадські постаті є першими мішенями. У 2022 році в TikTok поширювалося фальшиве інтерв’ю з Тімом Куком. Створене штучним інтелектом відео стверджувало, що Apple випускає неіснуючі продукти. Інвестори і шанувальники на короткий час були спантеличені. Ринок відреагував. Це була короткочасна паніка, але вона довела свою думку.
2023 року аналогічний інцидент стався з Володимиром Путіним. Аудіозапис передбачав, що він наказує про виведення військ із України. Це викликало реальну плутанину. Ці події не просто жарти. Це інструменти поширення хибної інформації. Вони підривають довіру до ЗМІ.
Конфіденційність та судові позови
Знаменитості чинять опір. Скарлетт Йоханссон подала до суду на компанію Convert Software наприкінці 2023 року. Компанія розмістила рекламу для “Lisa AI: 90s Yearbook & Avatar”. У рекламі використовувалася несанкціонована імітація її голосу. Це було очевидним порушенням її прав. Йоханссон не давала згоди використання свого образу.
Ця справа створює прецедент. Воно показує, що клонування голосу є порушенням конфіденційності. Це не лише технологічна проблема. Це є юридична проблема. Права перевіряються на міцність. Судам доведеться вирішувати, як захищати людей в епоху ідеального наслідування.
Шахрайство з генеральними директорами стає реальністю
Бізнес-шахрайство на кшталт «скам з генеральним директором» (CEO scam) завдає ударів по компаніям вже понад десятиліття. Співробітник отримує дзвінок. Голос звучить як голос начальника. Він просить терміново переказати гроші. Співробітник підкоряється. Це простий трюк. Але раніше для цього були потрібні навички.
Тепер це легко зробити. Нещодавно британська енергетична компанія стала жертвою цього. Співробітник отримав дзвінок від людини, яка імітує його начальника. Створений ІІ голос вимагає перекладу $220 000 на угорський банківський рахунок. Запит був терміновим. Співробітник, певно, повірив, що це реально.
Такі інструменти, як 11Labs, змінили правила гри. Вам не потрібно бути хакером. Вам просто потрібно додаток та зразок голосу мети. Шахрайство тепер масштабоване. Воно швидше. Воно дешевше. Воно небезпечне.
Ми вступаємо в період, коли слух більше не є доказом істини. Грань між реальністю та симуляцією розмивається. Штраф Стіва Крамера – це попередження. Але технологія не зупиниться. Вона стане лише кращою. Що станеться далі, залежить від судів, платформ та нас.
