Se sentía menos como una reunión de la industria cinematográfica y más como un retiro de culto tecnológico. IA en el lote. Ese fue el evento, celebrado la semana pasada en Amazon MGM Studios en Culver CA. Casi 2.500 cabezas llenaron el lugar, hablando sobre la promesa de la inteligencia artificial de salvar Hollywood.
La mayoría de los paneles ignoraron el elemento humano. Se saltaron la creatividad, la identidad y la intención. ¿El impacto en personas reales? A menudo es una ocurrencia tardía.
¿Pero las charlas paralelas? Eran diferentes. Ahí es donde encontraste a Luke Arrigoni. Es el director ejecutivo de Loti AI. Su trabajo es más simple de lo que parece: buscar caras falsas en la web. Derribarlos. Es una función fundamental para cualquiera que busque proteger su imagen en línea.
Hablé con él afuera del Culver Theatre para ver cómo la lucha de un hombre contra la falsificación digital se cruza con la carrera armamentista más amplia de la IA.
El modelo “Buscar, encontrar y destruir”
El enfoque de Arrigoni es agresivo por necesidad. Loti AI no se limita a esperar avisos de eliminación. Raspan todo Internet. Luego implementan herramientas de reconocimiento facial y de voz para señalar contenido no autorizado.
Piense en ello como buscar, encontrar y destruir.
Buscan de todo, desde material explícito no consensuado hasta estafadores y empresas que copian ilegalmente los rostros de celebridades en camisetas. Su punto fuerte no es sólo detectar lo falso, sino eliminarlo rápidamente.
Usamos reconocimiento facial e inteligencia artificial para decidir si el contenido vive o muere. ¿De modo realista? Somos una herramienta humana.
Esto va más allá de la defensa. También hay ofensa. El sistema de Arrigoni funciona como cámara de compensación para empresas de IA generativa. Antes de poder utilizar la imagen de una persona específica en sus modelos, los desarrolladores pueden enviar solicitudes a Loti AI para obtener autorización en tiempo real.
¿Tienes el visto bueno? Bien. ¿Saltar el formulario de permiso? Arrigoni elimina la salida y le dice al creador que reduzca sus pérdidas. Es el sistema ferroviario el que mantiene los trenes en camino. No necesita un abogado, una citación ni la participación de las autoridades para iniciar este proceso. Regístrese y sus sistemas comenzarán a rastrear la web por usted en diez minutos.
Por qué la huelga conduce a los servicios de protección
Arrigoni no se propuso ser policía de AI. Comenzó abordando el porno de venganza. Imágenes íntimas no consensuadas. Es un negocio sombrío y terrible que requirió constantes derribos.
Cuando el Screen Actors Guild-American Federation of television and Radio Artists (SAG-AFTRA) se declaró en huelga en 204, lo que estaba en juego cambió. Como miembro del sindicato, sentí esa amenaza existencial en lo más profundo de mis huesos. Si el rostro de un actor podía clonarse y venderse por centavos, su oficio (y su sueldo) significaban poco.
Arrigoni se acercó a grandes agencias de talentos. Agencia de Artistas Creativos. Esfuerzo de William Morris. Hizo una pregunta sencilla: ¿Le gustaría un servicio que ingiera franjas de Internet y elimine automáticamente las infracciones contra sus clientes?
La respuesta fue unánime. Una obviedad.
Este cambio marcó un paso del control de daños reactivo a la protección proactiva de la marca. Pero resalta una verdad más oscura: las herramientas de inteligencia artificial en plataformas como TikTok han hecho que generar información errónea o imágenes explícitas falsas sea terriblemente fácil. Los incidentes de alto perfil que involucraron a la IA Grok de Elon Musk demostraron que las barreras de seguridad o no existen o se rompen fácilmente.
¿Podrá la IA crear alguna vez el mejor arte?
Si los deepfakes se vuelven perfectos y el contenido barato de IA inunda el mercado, ¿qué nos queda? Arrigoni cree que el mercado se corregirá solo, aunque admite que la transición será complicada.
Actualmente nos estamos ahogando en contenido mediocre porque los modelos generativos predicen el promedio estadístico. La mayoría de los datos humanos publicados se encuentran en el rango de calidad del 50% al 75%. Allí también converge la IA. No tiene ningún mecanismo para llegar al 1% superior.
La IA no puede replicar la estética extraña y extravagante que define a los artistas de primer nivel.
Lo comparó con ver películas. Si anhelas éxitos de taquilla genéricos y estándar, la IA puede reemplazarlos. Inundará el canal con clones competentes pero desalmados. Pero si quieres algo con una voz única (una visión de Christopher Nolan o un toque de Jordan Peele), te quedarás con los humanos. Esa distinción define el futuro del valor en la economía de la atención.
El riesgo, advierte, no son sólo los vídeos falsos. Es una degradación de la verdad. Es una brecha educativa. Se necesita una generación para arreglar la capacidad de una generación de pensar críticamente. Si empiezas a enseñar a los niños del jardín de infancia cómo detectar medios sintéticos, podríamos tener una oportunidad.
Combatiendo el fuego con fuego
Arrigoni admite un saludable nivel de temor sobre hacia dónde se dirige esta tecnología. Las empresas tecnológicas naturalmente optimizan sus acciones hacia versiones extremas de sí mismas hasta que desaparecen la precaución y las barreras de seguridad. Los algoritmos de recomendación maximizan el compromiso, no el bienestar. Impulsan contenido porque te mantiene desplazándote.
Loti AI rechaza ese impulso.
Insiste en que sus inversores están alineados con esta moderación. Priorizan las barreras éticas sobre capturar todas las transacciones posibles. Es una propuesta difícil cuando el mercado premia la velocidad por encima de todo. Es necesario que más personas digan que saben que pueden dar el “siguiente paso” de explotación desenfrenada, y optar por no hacerlo.
A nivel personal, la preocupación se traslada a la crianza de los hijos. Arrigoni tiene un hijo de quince años. No esconde su teléfono. No intenta construir muros que el niño pueda simplemente escalar. Hace una pregunta diferente: ¿por qué esforzarse?
La respuesta honesta es difícil. Explica que, si bien hacer trampa a través de la IA parece fácil ahora, hacer el trabajo duro fomenta la alfabetización. Las personas con conocimientos se conectan mejor. Atraen socios más fácilmente. Navegan por los puestos de trabajo con ventaja. Hace la vida más tranquila a largo plazo.
Puedes hacer trampa si quieres. Prometo que trabajar hace que todo lo demás sea más fácil.
Vivimos en una era en la que cualquiera puede afirmar ser médico utilizando ChatGPT o realizar tareas utilizando un chatbot. La línea ya está borrosa. Dentro de dos años, para la mayoría de la gente será imposible distinguir los hechos de las mentiras. La solución no es un mejor software. Es un mejor juicio. Comienza con los padres. Comienza rechazando el camino fácil, incluso cuando el resto del mundo se precipita hacia el precipicio.
Arrigoni se ve a sí mismo como una fricción necesaria. Está bloqueando el deslizamiento hacia un mundo totalmente sintético, esperando que alguien esté mirando las pantallas y recuerde cómo es la realidad.
