Як зупинити дипфейки: як Loti AI бореться за цифрову ідентичність в епоху ІІ
Це здавалося не так зібранням кіноіндустрії, як ретритом для фанатичних послідовників технологічної секти. “AI on the Lot” – так називався захід, що пройшов минулого тижня в студії Amazon MGM Studios в Калвер-Сіті, штат Каліфорнія. Майже 2500 людей заповнили зал, натхненний обіцянками штучного інтелекту врятувати Голлівуд.
Більшість панелей ігнорували людський чинник. Вони не стосувалися тем творчості, ідентичності та намірів. Вплив на реальних людей часто залишалося лише за думкою.
Але побічні розмови? Там було зовсім інакше. Там я знайшов Люка Аррігоні. Він – генеральний директор Loti AI. Його завдання звучить простіше, ніж насправді: шукати в мережі підроблені особи і видаляти їх. Це критично важлива роль для всіх, хто прагне захистити свій цифровий вигляд.
Я поговорив з ним за межами кінотеатру в Калвер-Сіті, щоб зрозуміти, як боротьба однієї людини з цифровими підробками переплітається з глобальними технологічними перегонами озброєнь.
Модель «Пошук, виявлення, знищення»
Підхід Аррігоні агресивний, і це продиктовано необхідністю. Loti AI не просто чекає скарг на видалення контенту. Вони сканують весь інтернет, а потім використовують інструменти розпізнавання облич та голоси для маркування несанкціонованих матеріалів.
Думайте про це як про пошук, виявлення та знищення.
Вони полюють на все: від матеріалів з інтимним змістом, розміщених без згоди, до шахраїв і компаній, які незаконно використовують особи знаменитостей на мерчі (футболках, гуртках тощо). Їхня сила не тільки у виявленні фейку, а й у його швидкому видаленні.
Ми використовуємо розпізнавання осіб та ІІ, щоб вирішувати, чи живий контент чи вмирає. Насправді? Ми – людський інструмент.
Це виходить за межі простої оборони. Тут є наступальний елемент. Система Аррігоні працює як центр обробки запитів для компаній, що створюють генеративний ІІ. Перш ніж розробники зможуть використовувати вигляд конкретної людини у своїх моделях, вони можуть надіслати запит до Loti AI для отримання дозволу в реальному часі.
Чи отримали «зелене світло»? Чудово. Чи проігнорували необхідність дозволу? Аррігоні видаляє результат і каже творцю змиритися з втратами. Це залізничні колії, які утримують поїзди рейками. Вам не потрібні юристи, судові накази чи участь правоохоронних органів, щоб розпочати цей процес. Просто зареєструйтесь і їх системи почнуть сканувати інтернет для вас протягом десяти хвилин.
Чому захист починається з ударної позиції
Аррігоні не ставив собі за мету стати «поліцейським ІІ». Він почав із боротьби з «помстою в мережі» (revenge porn) — недозволеним розповсюдженням інтимних зображень. Це похмура і огидна справа, яка потребує постійного видалення матеріалів.
Коли у 2024 році (прим. у тексті друкарська помилка «204», виправлено на логічний рік) страйк Гільдії кіноакторів і телеведучих (SAG-AFTRA) набирав обертів, ставки змінилися. Будучи членом профспілки, я відчував екзистенційну загрозу самій своїй боротьбі. Якщо обличчя актора можна клонувати і продавати за копійки, їх майстерність і гонорари втрачають сенс.
Аррігоні вийшов на зв’язок із великими акторськими агентствами. Creative Artists Agency, William Morris Endeavor. Він поставив просте запитання: чи ви хочете послугу, яка переглядає величезні шматки інтернету і автоматично видаляє порушення прав ваших клієнтів?
Відповідь була одностайна. Це було очевидно.
Це зрушення ознаменувало перехід від реактивного контролю збитків до проактивного захисту бренду. Але це також підкреслює похмурішу істину: інструменти ІІ на платформах, таких як TikTok, зробили створення дезінформації або фальшивих інтимних зображень страшно простим. Інциденти за участю ІІ Ілона Маска Grok довели, що захисні механізми або відсутні, або легко їх обійти.
Чи може ІІ коли-небудь створити найкраще мистецтво?
Якщо дипфейки стануть досконалими, а дешевий контент, створений ІІ, затопить ринок, що нам залишиться? Аррігоні вважає, що ринок виправиться, хоч і визнає, що перехідний період буде брудним.
В даний час ми тонемо у посередньому контенті, тому що генеративні моделі пророкують статистичне середнє. Більшість опублікованих людських даних перебувають у діапазоні якості від 50% до 75%. ІІ також прагне цих цифр. У нього немає механізму для виходу на вершину списку — цього 1%.
ІІ неспроможна відтворити дивну, екстремальну естетику, що визначає творчість художників найвищого рівня.
Він порівняв це із переглядом кіно. Якщо вам подобаються стандартні, шаблонні блокбастери, ІІ може їх замінити. Він наповнить канали компетентними, але бездушними копіями. Але якщо ви шукаєте щось з унікальним голосом – бачення Крістофера Нолана або поворот сюжету Джордана Піла – ви залишитеся з людьми. Саме ця відмінність визначає майбутню цінність в економіці уваги.
Ризик, попереджає він, полягає не лише у підроблених відео. Це деградація істини. Це розрив освіти. Щоб виправити здатність одного покоління мислити критично, йде ціле покоління. Якщо ми почнемо навчати дітей у початковій школі розпізнавати синтетичні медіа, ми маємо шанс вижити.
Боротьба вогнем з вогнем
Аррігоні визнає здорову міру тривоги з приводу того, куди рухається ця технологія. Технологічні компанії природним чином прагнуть своїх крайніх проявів, поки обережність і захисні бар’єри не зникнуть. Алгоритми рекомендацій максимізують залучення, а не добробут користувачів. Вони просувають контент, тому що він змушує вас продовжувати перегортати стрічку.
Loti AI відмовляється йти на цей імпульс.
Він наполягає на тому, що його інвестори поділяють цю стриманість. Вони надають пріоритет етичним обмеженням замість того, щоб захоплювати кожну можливу транзакцію. Це важкий аргумент, коли ринок винагороджує швидкість понад усе. Більше людей мають сказати, що знають про можливість зробити наступний крок до неконтрольованої експлуатації, і свідомо відмовитися від цього.
На особистому рівні цей клопіт перетікає у виховання дітей. У Аррігоні є п’ятнадцятирічний син. Він не ховає від нього телефону. Він не намагається збудувати стіни, які хлопчик просто перелізе. Він ставить інше питання: навіщо взагалі докладати зусиль?
Чесна відповідь складна. Він пояснює, що хоча обман за допомогою ІІ зараз видається легким рішенням, важка робота розвиває грамотність. Знаючі люди краще спілкуються. Вони найлегше знаходять партнерів. Вони успішніше просуваються кар’єрними сходами. У довгостроковій перспективі це робить життя простішим.
Ти можеш дурити, якщо хочеш. Але я обіцяю: наполеглива праця полегшує всі інші аспекти життя.
Ми живемо в епоху, коли будь-хто може заявити, що він лікар, використовуючи ChatGPT, або здати домашнє завдання за допомогою чат-бота. Кордон вже розмитий. Через два роки більшості людей неможливо буде відрізнити факт від вигадки. Рішення над кращому програмному обеспечении. Рішення у кращому судженні. Це починається з батьків. Це починається з відмови від легкого шляху, навіть коли весь світ мчить до урвища.
Аррігоні бачить себе необхідною перепоною. Він блокує ковзання у повністю синтетичний світ, сподіваючись, що хтось дивиться на екрани та пам’ятає, як виглядає реальність.
