Wyglądało to mniej jak zgromadzenie branży filmowej, a bardziej jak odosobnienie dla fanatycznych wyznawców sekty technologicznej. „AI on the Lot” to nazwa wydarzenia, które odbyło się w zeszłym tygodniu w Amazon MGM Studios w Culver City w Kalifornii. Prawie 2500 osób wypełniło salę, zainspirowane obietnicą, że sztuczna inteligencja ocali Hollywood.
Większość paneli zignorowała czynnik ludzki. Nie poruszali tematów twórczości, tożsamości i intencji. Wpływ na prawdziwych ludzi często był tylko refleksją.
Ale rozmowy poboczne? Tam było zupełnie inaczej. Tam znalazłem Luca Arrigoniego. Jest dyrektorem generalnym Loti AI. Jego zadanie wydaje się prostsze niż jest w rzeczywistości: wyszukaj w Internecie fałszywe twarze i usuń je. To kluczowa rola dla każdego, kto chce chronić swoją tożsamość cyfrową.
Rozmawiałem z nim przed kinem w Culver City, aby zrozumieć, w jaki sposób walka jednego człowieka z cyfrowym podrabianiem przeplata się z globalnym technologicznym wyścigiem zbrojeń.
Wyszukaj, wykryj, zniszcz model
Podejście Arrigoniego jest agresywne z konieczności. Loti AI nie tylko czeka na skargi dotyczące usunięcia treści. Skanują cały Internet, a następnie używają narzędzi do rozpoznawania twarzy i głosu, aby zgłosić nieautoryzowane materiały.
Pomyśl o tym jak o wyszukiwaniu, lokalizowaniu i niszczeniu.
Polują na wszystko, od intymnych treści publikowanych bez zgody po oszustów i firmy nielegalnie wykorzystujące twarze celebrytów na towarach (t-shirtach, kubkach itp.). Ich siła polega nie tylko na wykrywaniu podróbek, ale także na ich szybkim usuwaniu.
Używamy rozpoznawania twarzy i sztucznej inteligencji, aby decydować, czy treść żyje, czy umiera. W rzeczywistości? Jesteśmy instrumentem ludzkim.
To wykracza poza zwykłą obronę. Jest tu także element ofensywny. System Arrigoni pełni funkcję centrum zgłoszeń dla firm tworzących generatywną sztuczną inteligencję. Zanim programiści będą mogli wykorzystać wygląd konkretnej osoby w swoich modelach, mogą przesłać prośbę do Loti AI o pozwolenie w czasie rzeczywistym.
Masz zielone światło? Świetnie. Czy zignorowałeś potrzebę uzyskania pozwolenia? Arrigoni usuwa wynik i każe twórcy zaakceptować stratę. To są tory kolejowe, które utrzymują pociągi na torach. Aby rozpocząć ten proces, nie potrzebujesz prawników, nakazów sądowych ani zaangażowania organów ścigania. Po prostu zarejestruj się, a ich systemy rozpoczną skanowanie Internetu w ciągu dziesięciu minut.
Dlaczego obrona zaczyna się od pozycji ataku
Arrigoni nie chciał zostać „policjantem AI”. Zaczął od zwalczania „pornografii zemsty”, czyli nielegalnej dystrybucji intymnych zdjęć. Jest to ponura i obrzydliwa sprawa, wymagająca ciągłego usuwania materiału.
W miarę jak strajk SAG-AFTRA nabrał tempa w 2024 r., stawka uległa zmianie. Jako członek związku zawodowego czułem egzystencjalne zagrożenie dla samego siebie. Jeśli twarz aktora da się sklonować i sprzedać za grosze, jego umiejętności i honoraria tracą znaczenie.
Arrigoni skontaktował się z głównymi agencjami aktorskimi. Agencja Artystów Kreatywnych, William Morris Endeavour. Zadał proste pytanie: Czy potrzebujesz usługi, która przeszukuje ogromne fragmenty Internetu i automatycznie usuwa naruszenia praw Twoich klientów?
Odpowiedź była jednomyślna. To było oczywiste.
Ta zmiana oznaczała przejście od reaktywnej kontroli szkód do proaktywnej ochrony marki. Ale uwydatnia także mroczniejszą prawdę: narzędzia AI na platformach takich jak TikTok niezwykle ułatwiły tworzenie dezinformacji lub fałszywych intymnych zdjęć. Incydenty z udziałem sztucznej inteligencji Grok Elona Muska pokazały, że albo brakuje mechanizmów obronnych, albo można je łatwo ominąć.
Czy sztuczna inteligencja mogłaby kiedykolwiek stworzyć lepszą sztukę?
Jeśli deepfakes staną się doskonałe, a tanie treści generowane przez sztuczną inteligencję zaleją rynek, gdzie pozostaniemy? Arrigoni wierzy, że rynek dokona samokorekty, chociaż przyznaje, że przejście to będzie trudne.
Obecnie toniemy w przeciętnych treściach, ponieważ modele generatywne przewidują średnią statystyczną. Większość opublikowanych danych dotyczących ludzi mieści się w zakresie jakości od 50% do 75%. AI również dąży do tych liczb. Nie ma mechanizmu, który pozwoliłby mu dotrzeć na sam szczyt listy – ten sam 1%.
Sztuczna inteligencja nie jest w stanie odtworzyć dziwnej, ekstremalnej estetyki, która definiuje najwyższy poziom artystów.
Porównał to do oglądania filmu. Jeśli lubisz standardowe, schematyczne hity kinowe, sztuczna inteligencja może je zastąpić. Zapełni kanały kompetentnymi, ale bezdusznymi kopiami. Ale jeśli szukasz czegoś o wyjątkowym głosie – wizji Christophera Nolana lub zwrotu akcji Jordana Peele’a – pozostaniesz przy ludziach. To właśnie ta różnica determinuje przyszłą wartość w ekonomii uwagi.
Ostrzega, że ryzyko nie polega tylko na fałszywych filmach. To jest degradacja prawdy. To jest luka edukacyjna. Korygowanie zdolności jednego pokolenia do krytycznego myślenia zajmuje całe pokolenie. Jeśli zaczniemy uczyć dzieci w szkole podstawowej rozpoznawania mediów syntetycznych, mamy szansę przetrwać.
Walka z ogniem ogniem
Arrigoni przyznaje, że istnieje zdrowy poziom niepokoju co do kierunku, w jakim zmierza ta technologia. Firmy technologiczne w naturalny sposób dążą do skrajności, dopóki ostrożność i bariery obronne nie znikną. Algorytmy rekomendacji maksymalizują zaangażowanie użytkowników, a nie ich dobro. Promują treści, ponieważ sprawiają, że chcesz je przewijać.
Loti AI nie ulega temu impulsowi.
Upiera się, że jego inwestorzy podzielają tę powściągliwość. Priorytetowo traktują ograniczenia etyczne, zamiast rejestrować każdą możliwą transakcję. Jest to trudny argument, gdy rynek ceni przede wszystkim prędkość. Więcej osób powinno powiedzieć, że są świadome możliwości zrobienia „kolejnego kroku” w kierunku niekontrolowanego wyzysku i świadomie tego nie robić.
Na poziomie osobistym ta troska przenosi się na rodzicielstwo. Arrigoni ma piętnastoletniego syna. Nie ukrywa przed nim telefonu. Nie próbuje budować murów, po których chłopiec będzie się po prostu wspinał. Zadaje kolejne pytanie: po co zawracać sobie głowę wysiłkiem?
Szczera odpowiedź jest skomplikowana. Wyjaśnia, że choć oszukiwanie za pomocą sztucznej inteligencji wydaje się teraz łatwym rozwiązaniem, ciężka praca rozwija umiejętności czytania i pisania. Osoby posiadające wiedzę komunikują się lepiej. Łatwiej im znaleźć partnerów. Z większym powodzeniem wspinają się po szczeblach kariery. Na dłuższą metę ułatwia to życie.
Możesz oszukiwać, jeśli chcesz. Ale obiecuję: ciężka praca sprawia, że każdy inny aspekt życia staje się łatwiejszy.
Żyjemy w czasach, w których każdy może podawać się za lekarza za pomocą ChatGPT lub przesyłać prace domowe za pomocą chatbota. Granica jest już zatarta. Za dwa lata większość ludzi nie będzie w stanie odróżnić faktów od fikcji. Rozwiązaniem nie jest lepsze oprogramowanie. Rozwiązanie jest według najlepszej oceny. Zaczyna się od rodziców. Zaczyna się od odmowy pójścia na łatwiznę, nawet gdy cały świat zmierza w stronę urwiska.
Arrigoni postrzega siebie jako niezbędną barierę. Blokuje slajd w całkowicie syntetyczny świat, mając nadzieję, że ktoś spojrzy na ekrany i przypomni sobie, jak wygląda rzeczywistość.
