Rasanya bukan seperti pertemuan industri film dan lebih seperti retret kultus teknologi. AI di Lot. Itulah acara yang diadakan minggu lalu di Amazon MGM Studios di Culver CA. Hampir 2.500 orang memadati tempat tersebut, membicarakan tentang janji kecerdasan buatan untuk menyelamatkan Hollywood.
Kebanyakan panel mengabaikan elemen manusia. Mereka melewatkan kreativitas, identitas, niat. Dampaknya terhadap orang-orang nyata? Seringkali menjadi renungan.
Tapi obrolan sampingan? Itu berbeda. Di situlah Anda menemukan Luke Arrigoni. Dia adalah CEO Loti AI. Tugasnya lebih sederhana daripada kedengarannya: menjelajahi web untuk mencari wajah palsu. Jatuhkan mereka. Ini adalah peran penting bagi siapa pun yang ingin melindungi kemiripan mereka secara online.
Saya berbicara dengannya di luar Culver Theatre untuk melihat bagaimana perjuangan seseorang melawan pemalsuan digital bersinggungan dengan perlombaan senjata AI yang lebih luas.
Model “Cari, Temukan, dan Hancurkan”.
Pendekatan Arrigoni bersifat agresif karena diperlukan. Loti AI tidak hanya menunggu pemberitahuan penghapusan. Mereka mengikis seluruh internet. Kemudian mereka menggunakan alat pengenalan wajah dan suara untuk menandai konten yang tidak sah.
Anggap saja sebagai mencari, menemukan, menghancurkan.
Mereka memburu segala sesuatu mulai dari materi eksplisit non-konsensual hingga penipu dan perusahaan yang secara ilegal mem-photoshop wajah selebriti ke dalam merchandise T-shirt. Kekuatan mereka bukan hanya sekedar mengenali yang palsu—tetapi juga menghilangkannya dengan cepat.
Kami menggunakan pengenalan wajah dan AI untuk memutuskan apakah konten hidup atau mati. Secara realistis? Kami adalah alat manusia.
Ini lebih dari sekedar pertahanan. Ada juga pelanggaran. Sistem Arrigoni berfungsi sebagai clearinghouse bagi perusahaan AI generatif. Sebelum mereka dapat menggunakan kemiripan orang tertentu dalam model mereka, pengembang dapat mengirimkan permintaan ke Loti AI untuk mendapatkan izin secara real-time.
Sudah mendapat lampu hijau? Bagus. Lewati slip izin? Arrigoni menghapus keluarannya dan meminta pembuatnya untuk mengurangi kerugiannya. Sistem rellah yang menjaga kereta tetap pada jalurnya. Anda tidak memerlukan pengacara, panggilan pengadilan, atau keterlibatan penegak hukum untuk memulai proses ini. Daftar, dan sistem mereka mulai merayapi web untuk Anda dalam waktu sepuluh menit.
Mengapa Pemogokan Menghasilkan Layanan Perlindungan
Arrigoni tidak bercita-cita menjadi polisi AI. Dia memulai dengan menangani pornografi balas dendam. Citra intim nonkonsensual. Ini adalah bisnis yang suram dan buruk yang membutuhkan penghapusan terus-menerus.
Ketika Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) melakukan pemogokan pada tahun 204, pertaruhannya berubah. Sebagai anggota serikat pekerja, saya merasakan ancaman nyata itu jauh di dalam tulang saya. Jika wajah seorang aktor dapat dikloning dan dijual dengan harga murah, keahliannya—dan gajinya—tidak berarti apa-apa.
Arrigoni menghubungi agensi bakat besar. Agensi Seniman Kreatif. William Morris Usaha. Dia mengajukan pertanyaan sederhana: Apakah Anda menginginkan layanan yang menyerap sebagian besar internet dan menghapus pelanggaran terhadap klien Anda secara otomatis?
Tanggapannya bulat. Tidak perlu khawatir.
Pergeseran ini menandai peralihan dari pengendalian kerusakan reaktif ke perlindungan merek proaktif. Namun hal ini menyoroti kebenaran yang lebih gelap: alat AI pada platform seperti TikTok telah membuat pembuatan informasi yang salah atau gambar eksplisit palsu menjadi sangat mudah. Insiden penting yang melibatkan AI Grok milik Elon Musk membuktikan bahwa pagar pembatas tidak ada atau mudah dipatahkan.
Bisakah AI Menciptakan Karya Seni Terbaik?
Jika deepfake menjadi sempurna, dan konten AI yang murah membanjiri pasar, apa yang tersisa bagi kita? Arrigoni yakin pasar akan terkoreksi dengan sendirinya, meski ia mengakui transisinya akan berantakan.
Saat ini kami tenggelam dalam konten biasa-biasa saja karena model generatif memprediksi rata-rata statistik. Sebagian besar data manusia yang dipublikasikan berada pada kisaran kualitas 50% hingga 75%. AI juga berkumpul di sana. Tidak ada mekanisme untuk mencapai 1% teratas.
AI tidak bisa meniru estetika aneh yang mendefinisikan artis papan atas.
Dia membandingkannya dengan menonton film. Jika Anda mendambakan film laris yang standar dan umum, AI dapat menggantikannya. Ini akan membanjiri saluran dengan klon yang kompeten namun tidak berjiwa. Namun jika Anda menginginkan sesuatu dengan suara yang unik—visi Christopher Nolan atau sentuhan Jordan Peele—Anda akan tetap menggunakan manusia. Perbedaan tersebut menentukan masa depan nilai dalam ekonomi perhatian.
Risikonya, ia memperingatkan, bukan hanya video palsu. Ini adalah degradasi kebenaran. Ini adalah kesenjangan pendidikan. Dibutuhkan satu generasi untuk membenahi kemampuan generasi berpikir kritis. Jika Anda mulai mengajari anak-anak di taman kanak-kanak cara mengenali media sintetis, kita mungkin punya peluang.
Melawan Api Dengan Api
Arrigoni mengakui adanya ketakutan yang cukup besar terhadap arah perkembangan teknologi ini. Perusahaan teknologi secara alami mengoptimalkan diri mereka ke versi ekstrem sampai kehati-hatian dan pagar pembatas hilang. Algoritme rekomendasi memaksimalkan keterlibatan, bukan kesejahteraan. Mereka mendorong konten karena itu membuat Anda terus menelusuri.
Loti AI menolak dorongan itu.
Dia menegaskan investornya sejalan dengan pembatasan ini. Mereka memprioritaskan batasan etika dibandingkan mencatat setiap kemungkinan transaksi. Ini merupakan penawaran yang sulit ketika pasar menghargai kecepatan di atas segalanya. Lebih banyak orang perlu mengatakan bahwa mereka tahu bahwa mereka dapat mengambil “langkah selanjutnya” dari eksploitasi yang tidak terkendali—dan memilih untuk tidak melakukannya.
Pada tingkat pribadi, kekhawatirannya merembes ke dalam pengasuhan anak. Arrigoni memiliki seorang putra berusia lima belas tahun. Dia tidak menyembunyikan teleponnya. Dia tidak mencoba membangun tembok yang bisa dipanjat oleh anak laki-laki itu. Dia menanyakan pertanyaan yang berbeda: mengapa harus berusaha?
Jawaban jujurnya sulit. Ia menjelaskan bahwa meskipun menyontek melalui AI terasa mudah saat ini, melakukan kerja keras akan membangun literasi. Orang yang berpengetahuan terhubung lebih baik. Mereka lebih mudah menarik pasangan. Mereka menavigasi pekerjaan dengan keuntungan. Itu membuat hidup lebih lancar dalam jangka panjang.
Anda dapat menipu jika Anda mau. Saya berjanji melakukan pekerjaan ini akan membuat segalanya lebih mudah.
Kita hidup di era di mana siapa pun dapat mengaku sebagai dokter menggunakan ChatGPT, atau mengerjakan pekerjaan rumah menggunakan chatbot. Garisnya sudah buram. Dalam dua tahun, mustahil bagi kebanyakan orang untuk membedakan fakta dari kebohongan. Solusinya bukanlah perangkat lunak yang lebih baik. Itu adalah penilaian yang lebih baik. Ini dimulai dari orang tua. Ini dimulai dengan menolak jalan yang mudah, bahkan ketika seluruh dunia sedang terburu-buru menuju jurang maut.
Arrigoni melihat dirinya sebagai gesekan yang diperlukan. Dia menghalangi perosotan ke dalam dunia sintetik sepenuhnya, berharap seseorang memperhatikan layar dan mengingat seperti apa kenyataan itu.
