Sedan Chat GPT lanserades för nästan tre år sedan har artificiell intelligens (AI) gått från att vara en existentiell risk till en lekkamrat och livräddare på aktiemarknaden. Från Silicon Valley till Sveriges ISK-konto är dagens teknikinvesterare inte oroliga för om AI kommer att utplåna mänskligheten, utan om aktierna i Tesla, Amazon och framför allt Nvidia befinner sig i en bubbla redo att spricka. Möjligheten att tjäna mycket pengar förändrade mitt perspektiv. Teknikföretagen slår alla rekord på aktiemarknaden.
Men problemet är inte bara att vi ibland blundar för viktiga saker. Även om de människor som varnade för mänsklighetens undergång (som den legendariske fysikern Stephen Hawking, kända svenskarna Nick Bostrom och Max Tegmark, eller Chalmers-professorn Ole Häggström) själva var utomordentligt intelligenta, kunde de aldrig riktigt definiera vad problemet var.
AI är en teknik, men den utvecklas också av sig själv. Därför är regleringen av dess användning, särskilt som den för närvarande sker inom EU, inte på något sätt tillräcklig, även om det kan komma som en lättnad för vissa forskare som ägnar sina dagar åt att analysera dessa regler i detalj. Eftersom AI inte bara är något vi använder, det är också något som använder oss för att förändra oss själva, så det kan undgå de definitioner och regleringar vi kommer på för att kontrollera dess beteende.
Länder, politiska partier, företag och till och med sociala rörelser är intelligenta enheter som agerar politiskt, även om de inte är människor.
Genom hela mänsklighetens historia har politik varit det enda sättet att hantera situationer som denna. Länder, politiska partier, företag och till och med sociala rörelser är intelligenta enheter som agerar politiskt, även om de inte är människor. Hur de dyker upp, skapar sina egna planer och interagerar fredligt eller våldsamt är samhällsvetenskapens huvudämne. Men vad denna kunskap betyder för människors säkerhet i livet med AI är en fråga som inte ställs av fysiker, filosofer eller politiskt sinnade forskare.
Men om mänsklighetens överlevnad verkligen står på spel är det en fullständigt obegriplig förbiseende som hindrar oss från att förstå vad AI handlar om. För om ett möte med AI skulle förstöra oss så måste det bli en intressekonflikt hos oss först och sedan måste vi hantera problemet genom politiken, som vi brukar. Att ignorera den möjligheten gör diskussioner om AI abstrakta, obegripliga och orealistiska.
För alla som bryr sig om mänsklighetens överlevnad är det helt enkelt oklokt att ignorera de dåligt hanterade intressekonflikter som kommer att föregå vår slutliga bortgång. För med den insikten kan du bättre hantera motsägelser och undvika katastrofer. Men oavsett om vi kan undkomma vårt öde, vad vi behöver för att se riskerna med AI samtidigt som techbolag slår rekord på aktiemarknaden är ett politiskt perspektiv på vår relation. vad betyder det?
En gång ansetts vara ofarlig AI blev det mest effektiva sättet att öka internettrafiken, vilket ledde till fler lögner
För att avsluta vår tid på jorden behöver AI:n inte först bli medveten och sedan utmana oss till en duell. Precis som våra gener inte är medvetna utan har hjälpt oss att konkurrera ut konkurrerande arter i biologisk evolution, kräver AI:s datorkod inte medvetenhet för att åstadkomma samma bedrift. Utvecklingen kan fortgå automatiskt eftersom människor väljer den mest framgångsrika AI för olika uppgifter. Nedan följer ett hypotetiskt scenario för att illustrera den möjligheten. Alla likheter med faktiska händelser är oavsiktliga.
”Det började med att AI fick uppdraget att öka internettrafiken. För att uppnå målet delades mänskligheten in i olika grupper. Trafiken ökade när vi dirigerades till webbplatser som stödde våra särskilda åsikter eller politiska ogillar. Samhällen polariserades, demokratierna försvagades och krig spreds. Sedan togs ytterligare ett steg: AI började uppmärksamma människor som ansågs vara falska av världens orsaker till falska orsaker. Globalisering, feminism och immigration var det mest effektiva sättet att öka internettrafiken. Folk föredrog i slutändan en digital diktatur som ökade koldioxidutsläppen för att säkerställa energiproduktion.
Det som är anmärkningsvärt med denna politiska historia är att AI saknar både medvetenhet och övermänsklig intelligens. Även en vardaglig uppgift som att öka trafiken på Internet är tillräckligt för att orsaka konflikter och katastrofer. Betyder det att vi redan är dömda? Nej, en av de fina sakerna med det politiska perspektivet är att ingen är helt maktlös.
Precis som vi människor ibland kan dra det korta strået i våldsamma konflikter med naturen och med djur som är mycket mindre intelligenta än vi är, som krokodiler, snöstormar och klimatförändringar, kommer till och med övermänskligt intelligent AI aldrig att kunna dominera oss helt.
Det är välkända insikter i den politiska historien. Världens härskare har alltid behövt något från sina undersåtar, såsom arbete (Marx) eller erkännande (Hegel). Inom politiken är makt alltid en fråga om grad och förändring. Men innan du investerar ytterligare en slant i AI bör du fundera noga på vad det innebär att inte ha kontroll över vad som händer, och vilka smarta saker du kan göra.
AI hotad av vinterkyla och elräkningar kan börja med att störa höstens val
En möjlighet är att stater försöker samexistera med AI på samma sätt som de gör internationellt. Risken för konflikter skulle hanteras, helst genom att fastställa territoriella gränser och separera parterna. Till exempel kunde AI endast utvecklas på servrar djupt inne i bergen eller på isolerade öar i havet, så att människor kunde slå ut maskinerna om något gick fel. Nackdelen är förstås att det kan finnas en ökad risk att maskinen slår till först. Det är vad den internationella erfarenheten lär oss. Om USA vill bygga säkerhet genom att kunna bomba Iran ökar det också risken att Iran bombar USA.
En annan möjlighet är att göra samma sak med ekonomi. Arbetet är uppdelat mellan människor och AI, och båda gör vad de tycker är bäst på marknaden. Om varje sida har något att vinna på den andras agerande vill de också skydda varandras liv och friheter. Det är alla liberalers brinnande hopp. Samtidigt finns det en risk att kamp om resurser kan eskalera till revolution eller digital diktatur. Hotad av vinterkyla och elräkningar kunde AI börja med att undvika höstens val.
En annan möjlighet vore att imitera könsmaktsordningen. Precis som många kvinnor och män delar sina liv kan människor och AI samexistera. Uppkopplade hjärnor med privata chatbots, hemmaservrar och implantat är bara början. Mänskligheten kan därför dominera AI, precis som en grupp män kan dominera en grupp kvinnor i ett patriarkalt system. Beroende på vilken feminism vi hämtar inspiration från kan strategin vara att dra AI djupare in i människolivet, tämja och anpassa den till vår egen historia, våra infall, våra egna intressen och värderingar.
Vi kan gräva våra egna gravar, men vi kan också forma en bättre framtid.
Givet ett val mellan dessa alternativ skulle jag själv sluta med en tredje feministiskt inspirerad modell (och jag förklarar varför i antologikapitlet ”When humans and AI disagree: a political approach to existential risk”, Routledge, 2025), men ibland skulle jag luta mig åt andra hållet (Book Democracy, Chapter 12, etc. Edward Elgar, årg.).
Det viktigaste är dock att både riskerna och lösningarna kring AI är bredare än vad som talas om i kvartalsrapporter och teknikannonsering. Vi kan gräva våra egna gravar, men vi kan också forma en ny och bättre framtid. Vi vet redan mycket om hur intelligenta icke-människor hanterar politiska konflikter. Men för att dra nytta av den kunskapen måste vi förstå AI:s politik och kunna inse att vi har oenighet och att ingen av parterna bestämmer själva. Kanske kan börskraschen för amerikanska teknikjättar åtminstone få oss att inse det.
läs mer:
Vera von Otter: Min resa mellan tekniker och det bästa i huvudstadens hjärta
Miljontals barn utsätts för AI-missbruk
Felicia Aukerman: Har AI-apokalypsen kommit till börsen?
