Idag i Rom, med Antropics medgrundare vid sin sida, påven Leo It kräver att AI ska ”avväpnas” i allmänhetens intresse.
”Det är ett starkt ord”, erkänner Leo, men han valde avsiktligt ordet ”nedrustning” för att ”vi behöver ett ord i detta ögonblick som kan fånga uppmärksamheten, väcka samvete och peka mänskligheten i den riktning den borde ta.” Dagens AI måste ”befrias från logiken som gör den till ett instrument för dominans, utanförskap och död.”
Encyklikan på 40 000 ord innehåller en kompromisslös kritik av AI-drivna autonoma vapen, nykoloniala attityder till datainsamling och insamling av ”nya former av egendom som patent, algoritmer, digitala plattformar, teknisk infrastruktur och data.”
Men brevet går långt utöver kritik och uppdaterar den katolska samhällsläran med en uppmaning till alla att ”bygga”, en term som gynnas av Silicon Valley-eliterna. (Se riskkapitalisten Marc Andreessens berömda essä 2020 ”It’s Time to Build.”)
Men i Leos vision går denna ”byggnad” bortom kod, startups, fabriker och bostäder. Det han söker är inget mindre än skapandet av en ”kärlekscivilisation” där alla arbetar för det gemensamma bästa inom sin egen livssfär, där teknologin inte dominerar, utesluter eller kringgår mänskligheten, utan istället tjänar och förstärker den.
Det är därför, även om Leo publicerade denna encyklika idag, han faktiskt undertecknade den den 15 maj, årsdagen av den berömda encyklikan från 1891 som heter ”Rerum Novarum” (”The New Thing”). Det uråldriga dokumentet beskriver den katolska samhällsläran i kapitalismens turbulenta tid, främst på arbetarnas och fackföreningarnas sida. Nu håller Leo på att uppdatera kyrkans sociala utbildning för AI-åldern, som han anser vara ”vår tids stigande stjärna”.
det där nya
Som hans föregångare gjorde för 135 år sedan, varnar Leo för att enskilda människor och mänskligheten själv inte får lämnas på efterkälken av tekniska framsteg och nya former av makt. Han är insiktsfull om det inflytande som tekniska eliter har idag och jämför dem med koloniala erövrare.
