Cela ressemblait moins à un rassemblement de l’industrie cinématographique qu’à une retraite de culte technologique. L’IA sur le Lot. C’était l’événement qui s’est tenu la semaine dernière aux studios Amazon MGM à Culver en Californie. Près de 2 500 personnes ont rempli la salle, bourdonnantes de la promesse de l’intelligence artificielle de sauver Hollywood.
La plupart des panels ont ignoré l’élément humain. Ils ont ignoré la créativité, l’identité, l’intention. L’impact sur de vraies personnes ? Souvent une réflexion après coup.
Mais les discussions annexes ? C’était différent. C’est là que vous avez trouvé Luke Arrigoni. Il est le PDG de Loti AI. Son travail est plus simple qu’il n’y paraît : parcourir le Web à la recherche de faux visages. Retirez-les. Il s’agit d’un rôle essentiel pour quiconque cherche à protéger son image en ligne.
Je lui ai parlé à l’extérieur du Culver Theatre pour voir comment la lutte d’un homme contre la contrefaçon numérique recoupe la course aux armements plus large en matière d’IA.
Le modèle « Rechercher, trouver et détruire »
L’approche d’Arrigoni est agressive par nécessité. Loti AI n’attend pas seulement les avis de retrait. Ils grattent tout Internet. Ils déploient ensuite des outils de reconnaissance faciale et vocale pour signaler les contenus non autorisés.
Pensez-y comme chercher, trouver, détruire.
Ils traquent tout, du matériel explicite non consensuel aux escrocs et aux entreprises qui photoshopent illégalement les visages de célébrités sur des T-shirts. Leur force ne consiste pas seulement à repérer les faux, mais à les éliminer rapidement.
Nous utilisons la reconnaissance faciale et l’IA pour décider si le contenu vit ou meurt. De façon réaliste? Nous sommes un outil humain.
Cela va au-delà de la défense. Il y a aussi l’offense. Le système d’Arrigoni fonctionne comme un centre d’échange pour les entreprises d’IA générative. Avant de pouvoir utiliser l’image d’une personne spécifique dans leurs modèles, les développeurs peuvent envoyer des demandes à Loti AI pour obtenir une autorisation en temps réel.
Vous avez le feu vert ? Bien. Ignorer la fiche d’autorisation ? Arrigoni supprime la sortie et dit au créateur de réduire ses pertes. C’est le système ferroviaire qui maintient les trains sur la bonne voie. Vous n’avez pas besoin d’un avocat, d’une assignation à comparaître ou de l’intervention des forces de l’ordre pour lancer ce processus. Inscrivez-vous et leurs systèmes commenceront à explorer le Web pour vous dans les dix minutes.
Pourquoi la grève mène aux services de protection
Arrigoni n’a pas pour objectif de devenir un policier d’IA. Il a commencé par s’attaquer au vengeance pornographique. Images intimes non consensuelles. Il s’agit d’une affaire sinistre et terrible qui a nécessité des démantèlements constants.
Lorsque la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) s’est mise en grève en 204, les enjeux ont changé. En tant que membre du syndicat, j’ai ressenti cette menace existentielle au plus profond de moi. Si le visage d’un acteur pouvait être cloné et vendu pour quelques centimes, son métier – et son salaire – ne signifiaient pas grand-chose.
Arrigoni a contacté de grandes agences artistiques. Agence d’artistes créatifs. William Morris Endeavour. Il a posé une question simple : Souhaitez-vous un service qui ingère des pans entiers d’Internet et supprime automatiquement les violations contre vos clients ?
La réponse a été unanime. Une évidence.
Ce changement a marqué le passage d’un contrôle réactif des dommages à une protection proactive de la marque. Mais cela met en lumière une vérité plus sombre : les outils d’IA sur des plateformes comme TikTok ont rendu la génération de désinformations ou de fausses images explicites extrêmement facile. Des incidents très médiatisés impliquant l’IA Grok d’Elon Musk ont prouvé que les garde-corps sont soit inexistants, soit facilement brisés.
L’IA peut-elle un jour créer le meilleur art ?
Si les deepfakes deviennent parfaits et que du contenu d’IA bon marché inonde le marché, que nous reste-t-il ? Arrigoni pense que le marché se corrigera tout seul, même s’il admet que la transition sera compliquée.
Nous sommes actuellement noyés sous des contenus médiocres car les modèles génératifs prédisent la moyenne statistique. La qualité de la plupart des données humaines publiées se situe entre 50 et 75 %. L’IA y converge également. Il n’existe aucun mécanisme permettant d’atteindre les 1 % les plus riches.
L’IA ne peut pas reproduire l’esthétique étrange et extravagante qui définit les artistes de haut niveau.
Il a comparé cela au visionnage de films. Si vous avez envie de superproductions standard et génériques, l’IA peut les remplacer. Cela inondera la chaîne de clones compétents mais sans âme. Mais si vous voulez quelque chose avec une voix unique – une vision de Christopher Nolan ou une touche de Jordan Peele – vous vous en tiendrez aux humains. Cette distinction définit l’avenir de la valeur dans l’économie de l’attention.
Le risque, prévient-il, ne réside pas seulement dans les fausses vidéos. C’est une dégradation de la vérité. C’est une lacune en matière d’éducation. Il faut une génération pour renforcer la capacité d’une génération à penser de manière critique. Si vous commencez à enseigner aux enfants de la maternelle comment repérer les médias synthétiques, nous pourrions avoir une chance.
Combattre le feu par le feu
Arrigoni admet avoir un bon niveau de crainte quant à la direction que prend cette technologie. Les entreprises technologiques s’optimisent naturellement vers des versions extrêmes d’elles-mêmes jusqu’à ce que la prudence et les garde-fous disparaissent. Les algorithmes de recommandation maximisent l’engagement, pas le bien-être. Ils diffusent du contenu parce qu’il vous permet de faire défiler.
Loti AI refuse cette impulsion.
Il insiste sur le fait que ses investisseurs sont d’accord avec cette retenue. Ils donnent la priorité aux garde-fous éthiques plutôt qu’à la capture de toutes les transactions possibles. C’est un terrain difficile lorsque le marché récompense avant tout la vitesse. Davantage de personnes devraient dire qu’elles savent qu’elles pourraient franchir la « prochaine étape » d’une exploitation incontrôlée – et choisir de ne pas le faire.
Sur le plan personnel, l’inquiétude se répercute sur la parentalité. Arrigoni a un fils de quinze ans. Il ne cache pas son téléphone. Il n’essaie pas de construire des murs que le garçon pourrait simplement escalader. Il pose une autre question : pourquoi faire cet effort ?
La réponse honnête est difficile. Il explique que même si tricher via l’IA semble désormais facile, faire le travail acharné renforce l’alphabétisation. Les personnes bien informées se connectent mieux. Ils attirent plus facilement des partenaires. Ils naviguent dans les emplois avec un avantage. Cela rend la vie plus douce à long terme.
Vous pouvez tricher si vous le souhaitez. Je promets que faire le travail rend tout le reste plus facile.
Nous vivons à une époque où n’importe qui peut prétendre être médecin en utilisant ChatGPT ou faire ses devoirs à l’aide d’un chatbot. La frontière est déjà floue. Dans deux ans, il sera impossible pour la plupart des gens de distinguer les faits de la fabrication. La solution ne réside pas dans un meilleur logiciel. C’est un meilleur jugement. Cela commence avec les parents. Cela commence par refuser la voie de la facilité, même lorsque le reste du monde se précipite vers le précipice.
Arrigoni se considère comme une friction nécessaire. Il bloque le glissement vers un monde entièrement synthétique, en espérant que quelqu’un regarde les écrans et se souvienne de ce à quoi ressemble la réalité.
