Dia tidak menahan diri.
Paus Leo XIV merilis Magnifica Humanitas — tunggu, tanpa tanda hubung — berjudul Magnifica Humanitas, atau “Magnificent Humanity” untuk penutur bahasa Inggris. Ini adalah 40.000 kata kritik langsung terhadap kecerdasan buatan. Dia mengatakan hal itu mengancam apa yang menjadikan kita manusia. Terus terang. Tanpa lapisan gula.
Ini tidak acak. Paus telah melakukan hal ini selama berabad-abad. Mereka membuang dokumen-dokumen ini, yang disebut ensiklik, ketika terjadi masalah di dunia.
Ingat Rerum Novarum? 1891. Leo XIII menyuruh para bos untuk berhenti mengeluarkan keringat pada para pekerja selama Revolusi Industri.
Bagaimana dengan Pacem di Terris? 1963. Yohanes XXIII memohon para pemimpin dunia untuk berhenti menekan tombol nuklir selama Perang Dingin.
Atau Laudato Si? 2015. Paus Fransiskus berteriak tentang iklim.
Sekarang kita memiliki Leo XIV. Seorang mantan ahli matematika yang melihat kode di bawah permukaan. Ia memperingatkan bahwa AI bukan sekadar alat, melainkan jebakan bagi demokrasi, kesehatan mental kita, dan masa depan itu sendiri.
Kebenaran Mati Terlebih Dahulu
Disinformasi menemukan sayap sempurna dalam AI. Paus Fransiskus menunjukkan bahwa algoritma tidak hanya menunjukkan berita buruk kepada kita, tetapi juga memproduksinya. Gambar yang dimanipulasi. Video palsu. Narasi yang bias dimasukkan langsung ke feed Anda.
Ia mengatakan demokrasi akan kelaparan ketika pragmatisme menggantikan kebenaran. Bukan “apa yang benar”. Hanya “apa yang berhasil saat ini”.
Ini adalah slide yang lambat. Ketidakpedulian terhadap kebenaran tidak menimbulkan keributan. Hal ini membuka jalan bagi totalitarianisme. Leo menulis bahwa kita beralih ke kendali ketika kita berhenti peduli apakah fakta adalah fakta yang sebenarnya.
“Ketidakpedulian terhadap kebenaran menyebabkan… kemunduran menuju totalitarianisme.”
Siapa yang Mengontrol Umpan?
Bos media sosial punya kekuasaan sekarang. Kekuatan besar. Paus mengatakan mereka tidak boleh hanya dipandu oleh klik atau iklan saja. Mereka perlu peduli terhadap martabat manusia.
Internet harus menjadi tempat kebebasan batin. Bukan mesin untuk mengalihkan perhatian. Bukan penghomogen pemikiran.
Komunikasi membangun budaya. Jika Anda membiarkan algoritme menentukan budaya, Anda akan kehilangannya.
Pekerjaan Bukan Pilihan
Inilah bagian yang sulit. Keuntungan tidak bisa membenarkan pemecatan semua orang. Leo menjelaskan dengan jelas: pribadi manusia adalah tujuan, bukan sarana. Anda tidak dapat memperlakukan orang seperti roda gigi yang harus dilepas agar mesin bekerja lebih cepat.
Pemerintah perlu melindungi pekerjaan. Ketenagakerjaan bukan hanya sekedar ekonomi, namun merupakan barang utama. Untuk keluarga. Untuk masyarakat. Menghapusnya berarti memutus kontrak sosial.
Perang dengan Algoritma
AI membuat perang lebih cepat. Lebih impersonal. Kurang manusiawi.
Leo menuntut kriteria sebelum satu drone dijatuhkan. Siapa yang bertanggung jawab? Bukan hanya orang yang menekan tombolnya, tapi desainernya, pelatihnya, orang yang menandatanganinya. Rantai tanggung jawab.
Sasaran harus membedakan antara tentara dan warga sipil. Masyarakat yang tidak berdaya membutuhkan perlindungan. Dan inilah bagian yang tidak dapat dinegosiasikan: Anda tidak dapat mengotomatiskan keputusan untuk membunuh. Kekuatan mematikan tetap berada di bawah kendali manusia.
Dia menyerukan kerangka kerja internasional. Mengakhiri perlombaan senjata teknologi. Lindungi warga sipil. Selalu.
Kesenjangan Kekayaan Melebar
Kekayaan terkonsentrasi di tangan yang lebih sedikit. Setiap hari. Terlebih lagi dengan AI.
“Tangan tak kasat mata” pasar tidaklah cukup lagi. Anda tidak dapat mengandalkannya untuk memperbaiki kesenjangan yang diciptakan oleh robot dan algoritma.
Politisi harus mendorong kebaikan bersama. Pekerjaan yang bermartabat. Inklusi sosial. Jika inovasi terjadi, semua orang akan merasakan manfaatnya, bukan hanya raksasa teknologi saja.
Perbudakan Modern
Perdagangan manusia bukanlah masa lalu. Ini sedang online. Jaringan digital memfasilitasinya. Pembayaran anonim. Aplikasi perpesanan. Ini adalah, sebagaimana Paus Fransiskus menyebutnya, sebuah bentuk perbudakan kontemporer.
Mengabaikan hal ini tidaklah netral. Ini adalah keterlibatan. Seperti dosa-dosa masa lalu, namun tersembunyi di balik layar. Toleransi terhadap praktik-praktik ini membenarkan hal tersebut.
Biaya Berpikir
Pusat data memakan bumi. Energi dalam jumlah besar. Penggunaan air dalam jumlah besar. Emisi CO2 meningkat seiring dengan setiap model bahasa besar yang kami latih.
Leo menginginkan solusi yang berkelanjutan. Bukan hanya server yang lebih besar. Kita harus memikirkan lingkungan yang menjaga sistem ini tetap hidup.
Anak-anak di Garis Bidik
Media digital menciptakan budaya kedekatan. Hiperstimulasi. Anak-anak tenggelam di dalamnya.
Pembuat kebijakan, sekolah, keluarga. Mereka membutuhkan aliansi. AI memperbesar bahaya yang dihadapi generasi muda. Predator menggunakannya. Profil palsu. Algoritma yang memfasilitasi kontak berbahaya. Gambar dan video dimanipulasi untuk dieksploitasi.
Dia memperingatkan agar tidak memberikan ponsel kepada anak-anak yang masih terlalu kecil. Perawatan online, pemerasan, eksploitasi seksual – ini bukan kasus yang jarang terjadi. Ini adalah fitur sistem yang tidak dirancang untuk melindungi kelompok rentan.
Kami berdiri di langkan. Paus melihat penurunan tersebut. Dia menyuruh kita untuk tidak melompat.
