Hij hield zich niet in.
Paus Leo XIV heeft Magnifica Humanitas uitgebracht – wacht, geen em-streepjes – met de titel Magnifica Humanitas, of “Magnificent Humanity” voor de Engelssprekenden. Het zijn 40.000 woorden van directe kritiek op kunstmatige intelligentie. Hij zegt dat het een bedreiging vormt voor wat ons menselijk maakt. Duidelijk. Zonder suikerlaagje.
Dit is niet willekeurig. Pausen doen dit al eeuwenlang. Ze laten deze documenten, encyclieken genoemd, vallen als er iets misgaat in de wereld.
Weet je nog Rerum Novarum? 1891. Leo XIII zei tegen de bazen dat ze moesten stoppen met het zweten van de arbeiders tijdens de Industriële Revolutie.
Wat dacht je van Pacem in Terris? 1963. Johannes XXIII smeekte de wereldleiders om te stoppen met het indrukken van nucleaire knoppen tijdens de Koude Oorlog.
Of Laudato Si? 2015. Franciscus schreeuwde over het klimaat.
Nu hebben we Leo XIV. Een voormalig wiskundige die de code onder de oppervlakte ziet. Hij waarschuwt dat AI niet slechts een hulpmiddel is, maar een valstrik voor de democratie, onze geestelijke gezondheid en de toekomst zelf.
De waarheid sterft eerst
Desinformatie vindt zijn perfecte wingman in AI. De paus wijst erop dat algoritmen ons niet alleen slecht nieuws laten zien, maar dat ze het ook produceren. Gemanipuleerde beelden. Vervalste video’s. Bevooroordeelde verhalen worden rechtstreeks in uw feed opgenomen.
Hij zegt dat de democratie verhongert als het pragmatisme de waarheid vervangt. Niet ‘wat juist is’. Gewoon ‘wat nu werkt’.
Het is een langzame glijbaan. Onverschilligheid voor de waarheid maakt geen lawaai. Het maakt plaats voor totalitarisme. Leo schrijft dat we richting controle afglijden als we er niet meer om geven of feiten daadwerkelijke feiten zijn.
“Onverschilligheid voor de waarheid leidt… tot een afdaling naar totalitarisme.”
Wie beheert de feed?
Bazen op het gebied van sociale media hebben nu de macht. Enorme kracht. De paus zegt dat ze zich niet alleen moeten laten leiden door klikken of advertenties. Ze moeten zich bekommeren om menselijke waardigheid.
Het internet moet een plek zijn voor innerlijke vrijheid. Geen machine voor afleiding. Geen homogenisator van gedachten.
Communicatie bouwt cultuur. Als je algoritmen de cultuur laat bepalen, verlies je die.
Werk is niet optioneel
Hier is het moeilijkste deel. Winst kan het ontslag van iedereen niet rechtvaardigen. Leo is duidelijk: de menselijke persoon is een doel, geen middel. Je kunt mensen niet behandelen als tandwielen die moeten worden verwijderd, zodat de machine sneller gaat werken.
Overheden moeten banen beschermen. Werkgelegenheid is niet alleen economie, het is een primair goed. Voor gezinnen. Voor samenlevingen. Als je dat wegneemt, verbreek je het sociale contract.
Oorlog door algoritme
AI maakt oorlog sneller. Meer onpersoonlijk. Minder menselijk.
Leo eist criteria voordat er ook maar één drone valt. Wie is verantwoordelijk? Niet alleen de man die op de knop drukt, maar ook de ontwerper, de trainer, de persoon die ervoor heeft getekend. Verantwoordelijkheidsketen.
Doelwitten moeten onderscheid maken tussen soldaten en burgers. Weerloze bevolkingsgroepen hebben bescherming nodig. En hier is het niet-onderhandelbare deel: je kunt de beslissing om te doden niet automatiseren. Dodelijk geweld blijft onder menselijke controle.
Hij pleit voor een internationaal raamwerk. Een einde aan de technologische wapenwedloop. Bescherm de burgers. Altijd.
De welvaartskloof wordt groter
Rijkdom concentreert zich in minder handen. Elke dag. Dat geldt nog meer voor AI.
De ‘onzichtbare hand’ van de markt is niet meer genoeg. Je kunt er niet op vertrouwen om de ongelijkheid op te lossen die door robots en algoritmen wordt gecreëerd.
Politici moeten aandringen op het algemeen belang. Waardig werk. Sociale inclusie. Als er innovatie plaatsvindt, deelt iedereen de voordelen, niet alleen de technologiegiganten.
Moderne slavernij
Mensenhandel behoort niet tot het verleden. Het is online. Digitale netwerken faciliteren dit. Anonieme betalingen. Berichten-apps. Het is, zoals de paus het noemt, een hedendaagse vorm van slavernij.
Dit negeren is niet neutraal. Het is medeplichtigheid. Net als de zonden uit het verleden, maar verborgen achter schermen. Tolerantie jegens deze praktijken rechtvaardigt ze.
De kosten van denken
Datacenters eten de aarde. Enorme hoeveelheden energie. Enorm waterverbruik. De CO2-uitstoot stijgt met elk groot taalmodel dat we trainen.
Leo wil duurzame oplossingen. Niet alleen grotere servers. We moeten nadenken over de omgeving die deze systemen in leven houdt.
Kinderen in het vizier
Digitale media creëren een cultuur van directheid. Hyperstimulatie. Kinderen verdrinken erin.
Beleidsmakers, scholen, gezinnen. Ze hebben een alliantie nodig. AI versterkt de gevaren waarmee jongeren worden geconfronteerd. Roofdieren gebruiken het. Valse profielen. Algoritmen die gevaarlijk contact mogelijk maken. Afbeeldingen en video’s die zijn gemanipuleerd om te exploiteren.
Hij waarschuwt tegen het geven van telefoons aan te jonge kinderen. Online verzorging, chantage, seksuele uitbuiting: dit zijn geen zeldzame randgevallen. Het zijn kenmerken van een systeem dat niet is ontworpen om de kwetsbaren te beschermen.
We staan op een richel. De paus ziet de druppel. Hij zegt dat we niet moeten springen.
