Это казалось не столько собранием киноиндустрии, сколько ретритом для фанатичных последователей технологической секты. «AI on the Lot» — так называлось мероприятие, прошедшее на прошлой неделе в студии Amazon MGM Studios в Калвер-Сити, штат Калифорния. Почти 2500 человек заполнили зал, вдохновленные обещаниями искусственного интеллекта спасти Голливуд.
Большинство панелей игнорировали человеческий фактор. Они не касались тем творчества, идентичности и намерений. Влияние на реальных людей часто оставалось лишь после мыслью.
Но побочные разговоры? Там было совсем иначе. Там я нашел Люка Арригони. Он — генеральный директор Loti AI. Его задача звучит проще, чем есть на самом деле: искать в сети поддельные лица и удалять их. Это критически важная роль для всех, кто стремится защитить свой цифровой облик.
Я поговорил с ним за пределами кинотеатра в Калвер-Сити, чтобы понять, как борьба одного человека с цифровыми подделками переплетается с глобальной технологической гонкой вооружений.
Модель «Поиск, обнаружение, уничтожение»
Подход Арригони агрессивен, и это продиктовано необходимостью. Loti AI не просто ждет жалоб на удаление контента. Они сканируют весь интернет, а затем используют инструменты распознавания лиц и голоса для маркировки несанкционированных материалов.
Думайте об этом как о поиске, обнаружении и уничтожении.
Они охотятся за всем: от материалов с интимным содержанием, размещенных без согласия, до мошенников и компаний, незаконно использующих лица знаменитостей на мерче (футболках, кружках и т.д.). Их сила не только в обнаружении фейка, но и в его быстром удалении.
Мы используем распознавание лиц и ИИ, чтобы решать, жив контент или умирает. На самом деле? Мы — человеческий инструмент.
Это выходит за рамки простой обороны. Здесь есть и наступательный элемент. Система Арригони работает как центр обработки запросов для компаний, создающих генеративный ИИ. Прежде чем разработчики смогут использовать облик конкретного человека в своих моделях, они могут отправить запрос в Loti AI для получения разрешения в реальном времени.
Получили «зеленый свет»? Отлично. Проигнорировали необходимость разрешения? Арригони удаляет результат и говорит создателю смириться с потерями. Это железнодорожные пути, которые удерживают поезда на рельсах. Вам не нужны юристы, судебные приказы или участие правоохранительных органов, чтобы начать этот процесс. Просто зарегистрируйтесь, и их системы начнут сканировать интернет для вас в течение десяти минут.
Почему защита начинается со ударной позиции
Арригони не ставил перед собой цель стать «полицейским ИИ». Он начал с борьбы с «местью в сети» (revenge porn) — недозволенным распространением интимных изображений. Это мрачное и отвратительное дело, требующее постоянного удаления материалов.
Когда в 2024 году (прим. в тексте опечатка «204», исправлено на логический год) забастовка Гильдии киноактеров и телеведущих (SAG-AFTRA) набирала обороты, ставки изменились. Будучи членом профсоюза, я ощущал экзистенциальную угрозу самой своей骨髓. Если лицо актера можно клонировать и продавать за копейки, то их мастерство и гонорары теряют смысл.
Арригони вышел на связь с крупными актерскими агентствами. Creative Artists Agency, William Morris Endeavor. Он задал простой вопрос: хотите ли вы услугу, которая просматривает огромные куски интернета и автоматически удаляет нарушения прав ваших клиентов?
Ответ был единодушен. Это было очевидно.
Этот сдвиг ознаменовал переход от реактивного контроля ущерба к проактивной защите бренда. Но это также подчеркивает более мрачную истину: инструменты ИИ на платформах, таких как TikTok, сделали создание дезинформации или фальшивых интимных изображений пугающе простым. Инциденты с участием ИИ Илона Маска Grok доказали, что защитные механизмы либо отсутствуют, либо их легко обойти.
Может ли ИИ когда-нибудь создать лучшее искусство?
Если дипфейки станут совершенными, а дешевый контент, созданный ИИ, затопит рынок, что останется нам? Арригони считает, что рынок исправится, хотя и признает, что переходный период будет грязным.
В настоящее время мы тонем в посредственном контенте, потому что генеративные модели предсказывают статистическое среднее. Большинство опубликованных человеческих данных находится в диапазоне качества от 50% до 75%. ИИ также стремится к этим цифрам. У него нет механизма для выхода на вершину списка — в тот самый 1%.
ИИ не может воспроизвести странную, экстремальную эстетику, которая определяет творчество художников высочайшего уровня.
Он сравнил это с просмотром кино. Если вам нравятся стандартные, шаблонные блокбастеры, ИИ может их заменить. Он наполнит каналы компетентными, но бездушными копиями. Но если вы ищете что-то с уникальным голосом — видение Кристофера Нолана или поворот сюжета Джордана Пила — вы останетесь с людьми. Именно это различие определяет будущую ценность в экономике внимания.
Риск, предупреждает он, заключается не только в поддельных видео. Это деградация истины. Это разрыв в образовании. Чтобы исправить способность одного поколения мыслить критически, уходит целое поколение. Если мы начнем учить детей в начальной школе распознавать синтетические медиа, у нас есть шанс выжить.
Борьба огнем с огнем
Арригони признает здоровую степень тревоги по поводу того, куда движется эта технология. Технологические компании естественным образом стремятся к своим крайним проявлениям, пока осторожность и защитные барьеры не исчезнут. Алгоритмы рекомендаций максимизируют вовлеченность, а не благополучие пользователей. Они продвигают контент, потому что он заставляет вас продолжать пролистывать ленту.
Loti AI отказывается идти на этот импульс.
Он настаивает на том, что его инвесторы разделяют эту сдержанность. Они отдают приоритет этическим ограничениям вместо того, чтобы захватывать каждую возможную транзакцию. Это трудный аргумент, когда рынок вознаграждает скорость превыше всего. Больше людей должны сказать, что знают о возможности сделать «следующий шаг» к неконтролируемой эксплуатации, и сознательно отказаться от этого.
На личном уровне эта забота перетекает в воспитание детей. У Арригони есть пятнадцатилетний сын. Он не прячет от него телефон. Он не пытается построить стены, которые мальчик просто перелезет. Он задает другой вопрос: зачем вообще прилагать усилия?
Честный ответ сложен. Он объясняет, что хотя обман с помощью ИИ сейчас кажется легким решением, тяжелая работа развивает грамотность. Знающие люди лучше общаются. Они легче находят партнеров. Они успешнее продвигаются по карьерной лестнице. В долгосрочной перспективе это делает жизнь проще.
Ты можешь обманывать, если хочешь. Но я обещаю: упорный труд упрощает все остальные аспекты жизни.
Мы живем в эпоху, когда любой может заявить, что он врач, используя ChatGPT, или сдать домашнее задание с помощью чат-бота. Граница уже размыта. Через два года большинству людей будет невозможно отличить факт от вымысла. Решение не в лучшем программном обеспечении. Решение в лучшем суждении. Это начинается с родителей. Это начинается с отказа от легкого пути, даже когда весь мир мчится к обрыву.
Арригони видит себя необходимой преградой. Он блокирует скольжение в полностью синтетический мир, надеясь, что кто-то смотрит на экраны и помнит, как выглядит реальность.
