Het voelde minder als een bijeenkomst van de filmindustrie en meer als een retraite voor een techcultus. AI op de Lot. Dat was het evenement dat vorige week werd gehouden in Amazon MGM Studios in Culver CA. Bijna 2.500 mensen waren aanwezig in de zaal, enthousiast over de belofte van kunstmatige intelligentie om Hollywood te redden.
De meeste panels negeerden het menselijke element. Ze sloegen creativiteit, identiteit en intentie over. De impact op echte mensen? Vaak een bijzaak.
Maar de sidechats? Die waren anders. Daar heb je Luke Arrigoni gevonden. Hij is de CEO van Loti AI. Zijn taak is eenvoudiger dan het klinkt: het internet afspeuren naar valse gezichten. Haal ze neer. Het is een cruciale rol voor iedereen die hun gelijkenis online wil beschermen.
Ik sprak met hem buiten het Culver Theatre om te zien hoe de strijd van één man tegen digitale vervalsing kruist met de bredere AI-wapenwedloop.
Het model “Zoeken, vinden en vernietigen”.
Arrigoni’s aanpak is noodzakelijkerwijs agressief. Loti AI wacht niet alleen op verwijderingsverzoeken. Ze schrapen het hele internet. Vervolgens zetten ze gezichts- en stemherkenningstools in om ongeautoriseerde inhoud te markeren.
Zie het als zoeken, vinden, vernietigen.
Ze jagen op alles, van expliciet materiaal zonder wederzijds goedvinden tot oplichters en bedrijven die op illegale wijze de gezichten van beroemdheden op T-shirtmerchandise photoshoppen. Hun kracht ligt niet alleen in het opmerken van de nep, maar ook in het snel verwijderen ervan.
We gebruiken gezichtsherkenning en AI om te beslissen of inhoud leeft of sterft. Realistisch? Wij zijn een menselijk instrument.
Dit gaat verder dan defensie. Er is ook sprake van overtreding. Het systeem van Arrigoni werkt als een uitwisselingscentrum voor generatieve AI-bedrijven. Voordat ze de gelijkenis van een specifieke persoon in hun modellen kunnen gebruiken, kunnen ontwikkelaars verzoeken naar Loti AI sturen voor realtime goedkeuring.
Heb je groen licht? Goed. Het toestemmingsformulier overslaan? Arrigoni verwijdert de uitvoer en zegt tegen de maker dat hij zijn verliezen moet beperken. Het is het spoorwegsysteem dat de treinen op het goede spoor houdt. U heeft geen advocaat, dagvaarding of betrokkenheid van de wetshandhaving nodig om dit proces te starten. Meld u aan en hun systemen beginnen binnen tien minuten het internet voor u te doorzoeken.
Waarom staking tot beschermingsdiensten leidt
Arrigoni was niet van plan een AI-politieagent te worden. Hij begon met het aanpakken van wraakporno. Niet-consensuele intieme beelden. Het is een grimmige, verschrikkelijke zaak die voortdurend moest worden aangepakt.
Toen de Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) in 204 staakte, veranderde de inzet. Als lid van de vakbond voelde ik die existentiële dreiging diep in mijn botten. Als het gezicht van een acteur gekloond en voor een cent verkocht kon worden, betekende zijn vak – en zijn salaris – weinig.
Arrigoni nam contact op met grote talentenbureaus. Agentschap voor creatieve kunstenaars. William Morris Endeavour. Hij stelde een eenvoudige vraag: wilt u een dienst die delen van het internet opneemt en overtredingen tegen uw klanten automatisch verwijdert?
Het antwoord was unaniem. Een no-brainer.
Deze verschuiving markeerde een verschuiving van reactieve schadebeheersing naar proactieve merkbescherming. Maar het benadrukt een duisterder waarheid: AI-tools op platforms als TikTok hebben het genereren van verkeerde informatie of het vervalsen van expliciete afbeeldingen angstaanjagend eenvoudig gemaakt. Spraakmakende incidenten waarbij de Grok AI van Elon Musk betrokken was, hebben bewezen dat vangrails ofwel niet bestaan, ofwel gemakkelijk kapot kunnen gaan.
Kan AI ooit de beste kunst maken?
Als deepfakes perfect worden en goedkope AI-content de markt overspoelt, wat blijft er dan nog voor ons over? Arrigoni gelooft dat de markt zichzelf zal corrigeren, hoewel hij toegeeft dat de transitie rommelig zal zijn.
We verdrinken momenteel in middelmatige inhoud omdat generatieve modellen het statistische gemiddelde voorspellen. De meeste gepubliceerde menselijke gegevens bevinden zich in het kwaliteitsbereik van 50% tot 75%. AI convergeert daar ook. Er is geen mechanisme om de top 1% te bereiken.
AI kan de vreemde, uiterlijke esthetiek die topkunstenaars definieert niet reproduceren.
Hij vergeleek het met het kijken naar films. Als je standaard, generieke blockbusters verlangt, kan AI dat vervangen. Het zal het kanaal overspoelen met competente maar zielloze klonen. Maar als je iets wilt met een unieke stem – een Christopher Nolan-visie of een Jordan Peele-twist – blijf je bij mensen. Dat onderscheid definieert de toekomst van waarde in de aandachtseconomie.
Het risico, waarschuwt hij, ligt niet alleen in nepvideo’s. Het is een degradatie van de waarheid. Het is een onderwijskloof. Er is een generatie nodig om het vermogen van een generatie om kritisch te denken te herstellen. Als je kinderen op de kleuterschool leert hoe ze synthetische media kunnen herkennen, maken we misschien een kans.
Vuur met vuur bestrijden
Arrigoni geeft toe dat hij een gezonde mate van angst heeft over waar deze technologie naartoe gaat. Technologiebedrijven optimaliseren van nature naar extreme versies van zichzelf, totdat voorzichtigheid en vangrails verdwijnen. Aanbevelingsalgoritmen maximaliseren de betrokkenheid, niet het welzijn. Ze pushen inhoud omdat het je laat scrollen.
Loti AI weigert die impuls.
Hij benadrukt dat zijn investeerders zich achter deze terughoudendheid scharen. Ze geven prioriteit aan ethische vangrails boven het vastleggen van elke mogelijke transactie. Het is een lastige pitch als de markt vooral snelheid beloont. Meer mensen moeten zeggen dat ze weten dat ze de “volgende stap” van ongecontroleerde uitbuiting kunnen zetten – en ervoor kiezen om dat niet te doen.
Op persoonlijk vlak vloeit de bezorgdheid door in het ouderschap. Arrigoni heeft een vijftienjarige zoon. Hij verbergt zijn telefoon niet. Hij probeert geen muren te bouwen die de jongen eenvoudigweg kan beklimmen. Hij stelt een andere vraag: waarom zou je er moeite voor doen?
Het eerlijke antwoord is moeilijk. Hij legt uit dat hoewel valsspelen via AI nu gemakkelijk voelt, het harde werk de geletterdheid vergroot. Goed geïnformeerde mensen verbinden beter. Ze trekken gemakkelijker partners aan. Ze navigeren door banen met een voordeel. Het maakt het leven op de lange termijn soepeler.
Je kunt vals spelen als je wilt. Ik beloof dat het doen van het werk al het andere gemakkelijker maakt.
We leven in een tijdperk waarin iedereen kan beweren een arts te zijn met behulp van ChatGPT, of huiswerk kan doorgeven met een chatbot. De lijn is al vaag. Over twee jaar zal het voor de meeste mensen onmogelijk zijn om feiten van verzinsels te onderscheiden. De oplossing is niet betere software. Het is een beter oordeel. Het begint bij ouders. Het begint met het weigeren van de gemakkelijke weg, zelfs als de rest van de wereld zich naar de klif haast.
Arrigoni ziet zichzelf als een noodzakelijke wrijving. Hij blokkeert de verschuiving naar een volledig synthetische wereld, in de hoop dat iemand naar de schermen kijkt en zich herinnert hoe de werkelijkheid eruit ziet.
