Es fühlte sich weniger wie ein Treffen der Filmindustrie an, sondern eher wie ein Tech-Kult-Retreat. KI auf dem Grundstück. Das war die Veranstaltung, die letzte Woche in den Amazon MGM Studios in Culver, Kalifornien, stattfand. Fast 2.500 Besucher drängten sich am Veranstaltungsort und schwörten über das Versprechen der künstlichen Intelligenz, Hollywood zu retten.
Die meisten Gremien ignorierten den menschlichen Faktor. Sie haben Kreativität, Identität und Absicht übersprungen. Die Auswirkungen auf echte Menschen? Oft ein nachträglicher Einfall.
Aber die Nebenchats? Das war anders. Dort haben Sie Luke Arrigoni gefunden. Er ist der CEO von Loti AI. Seine Aufgabe ist einfacher, als es sich anhört: Das Internet nach falschen Gesichtern durchsuchen. Nimm sie runter. Es ist eine entscheidende Rolle für jeden, der sein Abbild online schützen möchte.
Ich habe vor dem Culver Theatre mit ihm gesprochen, um zu sehen, wie sich der Kampf eines Mannes gegen digitale Fälschung mit dem umfassenderen KI-Wettrüsten überschneidet.
Das „Suchen, Finden und Zerstören“-Modell
Arrigonis Ansatz ist zwangsläufig aggressiv. Loti AI wartet nicht nur auf Deaktivierungsbenachrichtigungen. Sie durchsuchen das gesamte Internet. Anschließend setzen sie Gesichts- und Spracherkennungstools ein, um nicht autorisierte Inhalte zu kennzeichnen.
Betrachten Sie es als Suchen, Finden, Zerstören.
Sie jagen alles, von nicht einvernehmlichem explizitem Material bis hin zu Betrügern und Unternehmen, die die Gesichter von Prominenten illegal auf T-Shirt-Merchandise-Artikeln mit Photoshop versehen. Ihre Stärke besteht nicht nur darin, die Fälschung zu erkennen – sie besteht auch darin, sie schnell zu entfernen.
Wir nutzen Gesichtserkennung und KI, um zu entscheiden, ob Inhalte leben oder sterben. Realistisch gesehen? Wir sind ein menschliches Werkzeug.
Das geht über die Verteidigung hinaus. Es gibt auch Beleidigung. Das System von Arrigoni fungiert als Clearingstelle für generative KI-Unternehmen. Bevor sie das Konterfei einer bestimmten Person in ihren Modellen verwenden können, können Entwickler Anfragen zur Freigabe in Echtzeit an Loti AI senden.
Hast du die Erlaubnis erhalten? Gut. Den Erlaubniszettel überspringen? Arrigoni löscht die Ausgabe und fordert den Ersteller auf, seine Verluste zu begrenzen. Es ist das Schienensystem, das die Züge auf der Strecke hält. Sie benötigen keinen Anwalt, keine Vorladung oder die Beteiligung der Strafverfolgungsbehörden, um diesen Prozess einzuleiten. Melden Sie sich an und ihre Systeme beginnen innerhalb von zehn Minuten mit dem Crawlen des Webs für Sie.
Warum Streiks zu Schutzdiensten führen
Arrigoni hatte nicht vor, ein KI-Polizist zu werden. Er begann damit, sich mit Rachepornos zu befassen. Nicht einvernehmliche intime Bilder. Es ist ein düsteres, schreckliches Geschäft, das ständige Abschaltungen erfordert.
Als die Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) im Jahr 204 in den Streik trat, änderten sich die Einsätze. Als Mitglied der Gewerkschaft spürte ich diese existenzielle Bedrohung tief in meinen Knochen. Wenn das Gesicht eines Schauspielers geklont und für Cent verkauft werden konnte, bedeutete sein Handwerk – und sein Gehalt – wenig.
Arrigoni wandte sich an große Talentagenturen. Agentur für kreative Künstler. William Morris Endeavour. Er stellte eine klare Frage: Möchten Sie einen Dienst, der Teile des Internets erfasst und Verstöße gegen Ihre Kunden automatisch löscht?
Die Antwort war einstimmig. Ein Kinderspiel.
Dieser Wandel markierte einen Übergang von der reaktiven Schadensbegrenzung zum proaktiven Markenschutz. Aber es bringt eine dunklere Wahrheit ans Licht: KI-Tools auf Plattformen wie TikTok haben es erschreckend einfach gemacht, Fehlinformationen zu generieren oder explizite Bilder zu fälschen. Aufsehen erregende Vorfälle mit der Grok-KI von Elon Musk haben gezeigt, dass Leitplanken entweder nicht vorhanden sind oder leicht durchbrochen werden können.
Kann KI jemals die beste Kunst schaffen?
Wenn Deepfakes perfekt werden und billige KI-Inhalte den Markt überschwemmen, was bleibt uns dann übrig? Arrigoni glaubt, dass sich der Markt selbst korrigieren wird, räumt jedoch ein, dass der Übergang chaotisch sein wird.
Wir ertrinken derzeit in mittelmäßigen Inhalten, weil generative Modelle den statistischen Durchschnitt vorhersagen. Die meisten veröffentlichten menschlichen Daten liegen im Qualitätsbereich von 50 % bis 75 %. Auch hier konvergiert die KI. Es gibt keinen Mechanismus, um das oberste 1 % zu erreichen.
KI kann die seltsame, abgehobene Ästhetik, die Spitzenkünstler ausmacht, nicht reproduzieren.
Er verglich es mit dem Ansehen von Filmen. Wenn Sie sich nach Standard-Blockbustern sehnen, kann KI diese ersetzen. Es wird den Kanal mit kompetenten, aber seelenlosen Klonen überfluten. Aber wenn Sie etwas mit einer einzigartigen Stimme wollen – eine Vision von Christopher Nolan oder eine Wendung von Jordan Peele –, bleiben Sie bei den Menschen. Diese Unterscheidung definiert die Zukunft des Werts in der Aufmerksamkeitsökonomie.
Das Risiko, warnt er, bestehe nicht nur in gefälschten Videos. Es ist eine Herabwürdigung der Wahrheit. Es ist eine Bildungslücke. Es braucht eine Generation, um die Fähigkeit einer Generation zum kritischen Denken zu verbessern. Wenn Sie Kindern im Kindergarten beibringen, wie man synthetische Medien erkennt, haben wir vielleicht eine Chance.
Feuer mit Feuer bekämpfen
Arrigoni gibt zu, dass er große Angst vor der Entwicklung dieser Technologie hat. Tech-Unternehmen optimieren natürlich auf extreme Versionen ihrer selbst, bis Vorsicht und Leitplanken verschwinden. Empfehlungsalgorithmen maximieren das Engagement, nicht das Wohlbefinden. Sie pushen Inhalte, weil Sie dadurch weiter scrollen müssen.
Loti AI lehnt diesen Impuls ab.
Er besteht darauf, dass seine Anleger dieser Zurückhaltung folgen. Für sie haben ethische Leitlinien Vorrang vor der Erfassung jeder möglichen Transaktion. Es ist ein schwieriger Pitch, wenn der Markt Geschwindigkeit über alles andere belohnt. Mehr Menschen müssen sagen, dass sie wissen, dass sie den „nächsten Schritt“ der unkontrollierten Ausbeutung wagen könnten – und sich dagegen entscheiden.
Auf persönlicher Ebene spiegelt sich die Sorge auch in der Erziehung wider. Arrigoni hat einen fünfzehnjährigen Sohn. Er versteckt sein Telefon nicht. Er versucht nicht, Mauern zu bauen, die der Junge einfach erklimmen kann. Er stellt eine andere Frage: Warum sich die Mühe machen?
Die ehrliche Antwort ist schwer. Er erklärt, dass sich das Betrügen mithilfe von KI jetzt zwar einfach anfühlt, die harte Arbeit jedoch die Lese- und Schreibfähigkeit fördert. Sachkundige Menschen vernetzen sich besser. Sie ziehen leichter Partner an. Sie navigieren Jobs mit einem Vorteil. Es macht das Leben auf lange Sicht reibungsloser.
Du kannst schummeln, wenn du willst. Ich verspreche, dass die Arbeit alles andere einfacher macht.
Wir leben in einer Zeit, in der jeder mit ChatGPT behaupten kann, ein Arzt zu sein, oder mit einem Chatbot Hausaufgaben erledigen kann. Die Grenze ist bereits verschwommen. In zwei Jahren wird es für die meisten Menschen unmöglich sein, Fakten von Fälschungen zu unterscheiden. Die Lösung ist keine bessere Software. Es ist ein besseres Urteilsvermögen. Es beginnt bei den Eltern. Es beginnt damit, den einfachen Weg abzulehnen, selbst wenn der Rest der Welt auf die Klippe zustürmt.
Arrigoni sieht sich selbst als notwendige Reibungsfläche. Er blockiert das Abgleiten in eine vollständig synthetische Welt und hofft, dass jemand die Bildschirme beobachtet und sich daran erinnert, wie die Realität aussieht.
