Påven Leo XIV varnade för riskerna med AI och oinskränkt teknisk kraft i det första stora påvliga dokumentet som släpptes på måndagen. Magnifica Humanitas är påvens manifest om att ”skydda människor i den artificiella intelligensens tidsålder”, där han diskuterar farorna med AI-drivna krig, effekten av AI på arbetet och behovet av nya juridiska och etiska ramar för att styra teknik.
I en påvlig encyklika, ett slags öppet brev från den katolska kyrkan, betonade påven Leo att det snabba antagandet av AI hotar mänsklig värdighet, lämnar otillräckligt skydd för individer och skapar ekonomisk och social förödelse. Han jämförde den nuvarande AI-åldern med Babels torn och sa att samhället måste ”undvika ’Babels syndrom'”, som han definierar som ”en avgudadyrkan av vinst på bekostnad av de svaga, en enhetlighet som neutraliserar skillnader och anspråk på att ett enda språk, även ett digitalt, kan översätta allt, inklusive individens mysterier, till data och prestanda.”
Påven Leos brev berör nyckelområden i det moderna livet där AI är djupt inbäddad, inklusive arbetslöshet och arbetskraft i allmänhet, AI-driven krigföring och barn som exponeras för AI-verktyg och innehåll. Framför allt kräver encyklikan att mänsklig värdighet ska stå i centrum för beslutsfattande och styrning. Brevet är en vädjan till ”den moraliska och sociala urskillningen att försvara mänsklig överhöghet för att säkerställa att mänsklig intelligens, med samvete och frihet, alltid vägleder teknisk innovation och ansvarsfullt bestämmer dess användningsområden och gränser”, skrev Leo.
Det mer än 42 000 ord långa brevet kräver ”försiktighet, rigorös utvärdering och ibland till och med en långsammare takt i implementeringen av AI” för att ”utöva ansvarsfull omsorg för den mänskliga familjen.” Några av förslagen inkluderar:
AI:s inverkan på mänskligheten är en avgörande fråga för påven Leo. Påven fick sitt namn efter den industriella revolutionen, där hans föregångare, påven Leo XIII, gav ut sin egen encyklika om skydd av arbetare mitt i tekniska framsteg. Påven Leo är också involverad i AI-branschen, och Christopher Oler, medgrundare av Anthropic, var också på plats när han tillkännagav encyklikan på måndagen. Politico rapporterade att representanter från Amazon, Meta och Google träffade Vatikanens tjänstemän inför publiceringen av encyklikan på måndagen, eftersom teknikindustrin försöker påverka kyrkans position. (Vissa grupper försöker ”AGI-pillera” påven. Magnifica Humanitas nämner inte uttryckligen artificiell allmän intelligens.)
Denna encyklika är inte en total opposition till AI. Snarare uppmanar påven Leo till ”nedrustning” av teknik, i militära, ekonomiska och sociala termer. Han säger att AI inte ska användas för att tävla om att samla makt eller monopolisera samhället.
”Avväpning innebär att förkasta antagandet att teknisk makt automatiskt ger styrning. Att avväpna betyder inte att förkasta teknik, utan snarare att förhindra teknik från att dominera mänskligheten.”
