Vypadalo to méně jako setkání filmového průmyslu a spíše jako útočiště pro fanatické stoupence technologické sekty. „AI on the Lot“ byl název akce, která se konala minulý týden v Amazon MGM Studios v Culver City v Kalifornii. Sál zaplnilo téměř 2500 lidí, inspirovaných příslibem umělé inteligence zachránit Hollywood.
Většina panelů ignorovala lidský faktor. Nezabývali se tématy kreativity, identity a záměru. Vliv na skutečné lidi byl často jen dodatečný nápad.
Ale vedlejší rozhovory? Tam to bylo úplně jiné. Tam jsem našel Luca Arrigoniho. Je generálním ředitelem Loti AI. Jeho úkol zní jednodušeji, než ve skutečnosti je: vyhledat falešné obličeje online a odstranit je. Toto je klíčová role pro každého, kdo chce chránit svou digitální identitu.
Mluvil jsem s ním před kinosálem v Culver City, abych pochopil, jak se jeden mužský boj proti digitálnímu padělání prolíná s globálními závody ve zbrojení.
Vyhledávání, detekce, zničení modelu
Arrigoniho přístup je agresivní, z nutnosti. Loti AI nečeká jen na stížnosti na odstranění obsahu. Prohledají celý internet a poté pomocí nástrojů pro rozpoznávání obličeje a hlasu označí nepovolený materiál.
Ber to jako hledání, lokalizace a ničení.
Hledají vše od intimního obsahu zveřejněného bez souhlasu až po podvodníky a společnosti, které nelegálně používají tváře celebrit na zboží (trička, hrnky atd.). Jejich síla spočívá nejen v odhalování padělků, ale také v jejich rychlém odstranění.
Pomocí rozpoznávání obličeje a umělé inteligence rozhodujeme, zda obsah žije nebo zemře. ve skutečnosti? Jsme lidský nástroj.
To přesahuje pouhou obranu. Nechybí zde ani útočný prvek. Systém Arrigoni funguje jako centrum požadavků pro společnosti vytvářející generativní AI. Než budou moci vývojáři použít vzhled konkrétní osoby ve svých modelech, mohou Loti AI odeslat žádost o povolení v reálném čase.
Máte zelenou? Velký. Ignorovali jste potřebu povolení? Arrigoni vymaže výsledek a řekne tvůrci, aby přijal ztrátu. To jsou železniční tratě, které udržují vlaky na kolejích. K zahájení tohoto procesu nepotřebujete právníky, soudní příkazy ani zapojení donucovacích orgánů. Stačí se zaregistrovat a jejich systémy za vás do deseti minut začnou skenovat internet.
Proč obrana začíná z úderné pozice
Arrigoni neměl v úmyslu stát se „AI policistou“. Začal bojem s „pornem z pomsty“, nezákonným šířením intimních obrázků. Je to ponurá a nechutná záležitost, která vyžaduje neustálé odstraňování materiálu.
Jak stávka SAG-AFTRA v roce 2024 nabrala na síle, sázky se změnily. Jako člen odborů jsem cítil existenční ohrožení své bytosti. Pokud se podaří naklonovat hercovu tvář a prodat ji za haléře, pak jejich dovednosti a honoráře ztratí smysl.
Arrigoni se dostal do kontaktu s velkými hereckými agenturami. Creative Artists Agency, William Morris Endeavour. Položil jednoduchou otázku: Chcete službu, která prochází obrovské kusy internetu a automaticky odstraňuje porušování práv vašich zákazníků?
Odpověď byla jednomyslná. Bylo to zřejmé.
Tento posun znamenal posun od reaktivní kontroly poškození k proaktivní ochraně značky. Ale také zdůrazňuje temnější pravdu: nástroje AI na platformách, jako je TikTok, umožnily děsivě snadno vytvářet dezinformace nebo falešné intimní obrázky. Incidenty zahrnující Grok AI Elona Muska prokázaly, že obranné mechanismy buď chybí, nebo je lze snadno obejít.
Mohla by někdy umělá inteligence vytvořit lepší umění?
Pokud se deepfakes stanou dokonalými a levný obsah generovaný AI zaplaví trh, kde zůstaneme? Arrigoni věří, že se trh sám napraví, i když připouští, že přechod bude chaotický.
V současnosti se utápíme v průměrném obsahu, protože generativní modely předpovídají statistický průměr. Většina publikovaných údajů o lidech je v rozmezí kvality 50 % až 75 %. O tato čísla usiluje i AI. Nemá žádný mechanismus, jak dosáhnout vrcholu seznamu – to samé 1 %.
Umělá inteligence nedokáže replikovat podivnou, extrémní estetiku, která definuje nejvyšší úroveň umělců.
Přirovnal to ke sledování filmu. Pokud máte rádi standardní, vzorové trháky, umělá inteligence je může nahradit. Naplní kanály kompetentními, ale bezduchými kopiemi. Ale pokud hledáte něco s jedinečným hlasem – vizi Christophera Nolana nebo zápletku Jordana Peeleho – zůstanete s lidmi. Právě tento rozdíl určuje budoucí hodnotu v ekonomice pozornosti.
Riziko, jak varuje, nejsou jen falešná videa. To je degradace pravdy. Toto je mezera ve vzdělání. Napravit schopnost jedné generace kriticky myslet trvá celé generaci. Pokud začneme učit děti na základní škole poznávat syntetická média, máme šanci přežít.
Boj s ohněm ohněm
Arrigoni uznává zdravou míru úzkosti ohledně toho, kam tato technologie směřuje. Technologické společnosti přirozeně tíhnou ke svým extrémům, dokud opatrnost a obranné bariéry neodpadnou. Algoritmy doporučení maximalizují zapojení uživatelů spíše než jejich pohodu. Propagují obsah, protože vás nutí neustále posouvat.
Loti AI odmítá souhlasit s tímto impulsem.
Trvá na tom, že jeho investoři sdílejí tuto zdrženlivost. Upřednostňují etická omezení místo toho, aby zachytili každou možnou transakci. To je těžký argument, když trh oceňuje rychlost nade vše. Více lidí by mělo říci, že si je vědomo možnosti udělat „další krok“ k nekontrolovanému vykořisťování, a vědomě to odmítnout.
Na osobní úrovni se tato starost přelévá do rodičovství. Arrigoni má patnáctiletého syna. Svůj telefon před ním neskrývá. Nesnaží se stavět zdi, které chlapec jednoduše přeleze. Položí další otázku: proč se namáhat?
Upřímná odpověď je složitá. Vysvětluje, že zatímco podvádění s AI se nyní zdá jako snadné řešení, tvrdá práce rozvíjí gramotnost. Znalí lidé lépe komunikují. Snáze hledají partnery. Po kariérním žebříčku postupují úspěšněji. Z dlouhodobého hlediska to usnadňuje život.
Pokud chcete, můžete podvádět. Ale slibuji: tvrdá práce usnadňuje všechny ostatní aspekty života.
Žijeme v době, kdy se kdokoli může prohlásit za lékaře pomocí ChatGPT nebo zadávat domácí úkoly pomocí chatbota. Hranice je již rozmazaná. Za dva roky nebude většina lidí schopna rozlišit skutečnost od fikce. Řešením není lepší software. Řešení je na nejlepším úsudku. Začíná to u rodičů. Začíná to tím, že odmítáte jít po snadné cestě ven, i když celý svět míří k útesu.
Arrigoni se považuje za nezbytnou bariéru. Blokuje snímek do zcela syntetického světa a doufá, že se někdo podívá na obrazovky a pamatuje si, jak vypadá realita.
