UTills nyligen kunde vi människor känna oss självbelåtna över våra förmågor. Andra djur spelar inte brädspel, skriver inte uppsatser eller bevisar matematiska satser. Men nuförtiden verkar det som att framsteg inom AI kan utmana vår självbild som de smartaste varelserna. AI-system kan inte bara slå oss i de mest komplexa spelen, utan också skriva sofistikerad prosa och vinna medaljer i matematik. Teknikbranschens VD:ar lovar att övermänsklig AI är precis runt hörnet. Så i en tidsålder av AI, är det mänskliga sinnet fortfarande speciellt, eller är det bara ”samma sak”?
När vi talar om övermänsklig AI antar vi en enda intelligensskala. Mina föräldrar brukade markera min brors och jags höjder på tvättdörrkarmen. Varje år kom han mig lite närmare, men ett år hände det otänkbara och han överträffade mig (han är 6’3″ nu). Det här ögonblicket känns lite lika, när jag tittar på mina nya småbröder, orolig att de ska överträffa oss.
Men intelligens är inte som höjd. Det finns bara ett sätt att bli längre, men det finns många sätt att bli smartare. Du kan se samma sak bara genom att titta på andra djur. Så stora varelser som människor är, är vi fortfarande ibland imponerade av hur fåglar rör sig, hur myror arbetar tillsammans och hur spindlar jagar. Vart och ett av dessa djur har formats annorlunda och klokt av sin miljö.
Människor är inget undantag. Våra sinnen har formats av biologi. Vi har bara några decennier kvar att leva, och på den korta tiden måste vi lära oss allt vi lär oss och göra allt vi bestämmer oss för. Allt detta lärande och beteende utförs under ledning av cirka ett kilo nervceller som är instängda i våra beniga skallar. Vi kan bara dela våra tankar med andra genom att göra ljud med våra munnar eller genom att knacka eller röra på fingrarna.
AI-system möter inte dessa begränsningar. De kan bearbeta mer data än en människa kan se under en livstid. Du kan utöka din kapacitet genom att använda fler datorer. Du kan också enkelt dela det du ser och lär dig med andra maskiner.
Våra korta liv, squishy hjärnor och munljud kan verka som gränser jämfört med maskiner. Det är faktiskt dessa som gör oss speciella och kommer att fortsätta att göra det.
Mänsklig intelligens är en reaktion på våra begränsningar. För att få ut det mesta av livet har vi en fantastisk förmåga att lära av begränsade erfarenheter. Visst, AlphaGo kan slå de bästa mänskliga Go-spelarna, men det har tränats på många spel under människans livstid. Visst, ChatGPT kan ha en rimlig konversation, men det knyter an till ett språk som är tusentals år gammalt. Inget AI-system kan producera meningar med samma kreativitet som en mänsklig 5-åring när de utsätts för samma mängd data.
Det gäller även vår begränsade hjärna och kommunikationsförmåga. Du kan inte bara slå på en annan dator när du behöver mer processorkraft. Det betyder att du måste känna igen uppgiftsmönster och använda din uppmärksamhet klokt. Det är svårt att lita på munljud. För att övervinna det har vi skapat verktyg som språk, skrivande, utbildning och vetenskap för att dela kunskap mellan människor och tid. Det betyder att du måste vara bra på att tänka på vad som händer i andras huvuden och arbeta tillsammans för att nå gemensamma mål.
Eftersom människor och maskiner står inför olika begränsningar bör vi förvänta oss att de hittar olika lösningar på de problem de står inför. Moderna AI-system klarar allt mer av det som människor kan göra, men gör det ofta på väldigt olika sätt. Lösningarna de hittar formas av deras egen erfarenhet och hårdvara.
Här är ett enkelt exempel. aaaaaaaaaaaaaaaaaaaaaaaaaaaa Hur många bokstäver finns i den här sekvensen? För människor är svaret inte särskilt svårt. Det räcker att bara räkna dem. För AI-system är det ännu mer komplicerat. Dessa är begränsade av hur språket uttrycks och hur det tränas. De gillar att dela upp ord i delar (kallade ”tokens”), vilket kan göra det svårt att svara på stavningsfrågor. Och vi tenderar att föredra sekvenser av tokens som ofta förekommer i träningsdata som svar. OpenAI:s GPT-4-modell, hyllad som att visa en ”gnista av allmän artificiell intelligens”, visade sig vara mer benägna att svara korrekt på denna fråga när den gavs 30 tecken än 29. Varför? Eftersom siffran 30 skrivs ner oftare än siffran 29.
Detta är inte den enda utmaningen AI står inför. Föreställ dig att du hjälper en farmaceut. En läkemedelskoncentration på 785 ppm krävs. Två provrör finns tillgängliga. Den ena innehåller 685 ppm och den andra 791 ppm. Ditt jobb är att avgöra vilket provrör som ger koncentrationen närmast den dos du behöver. Välj 791 ppm om möjligt. Men stora AI-system kan också välja 685 ppm. varför? Det beror på att de artificiella neurala nätverk som används för att bygga AI-system tenderar att skymma saker. Om det finns två möjliga svar väljer de det däremellan. Siffran 785 kan representeras antingen som en sekvens av siffror (’7’, ’8’, ’5’) eller som en kvantitet (785). För strängar är 785 liknande 685. Skillnaden är bara en storleksordning. Men om det är en kvantitet är det som 791. Att blanda ihop dessa två svar kan få allvarliga konsekvenser.
Mänsklig intelligens bygger på ett brett utbud av erfarenheter som går utöver den data som används för att träna AI-system. Vi använder våra hjärnor för att blöja våra barn, spela schack, bevisa teorem, laga middag, skriva romaner och komponera symfonier. AI-system är vanligtvis tränade för att göra bara en sak. Du kan be ChatGPT om blöjtips, men du kan inte försiktigt plocka upp ett slingrande litet barn. Den mänskliga hjärnan har alla dessa förmågor eftersom den har utvecklats i en värld som ställer oss inför alla dessa utmaningar, vilket ger oss tillräckligt med kapacitet att lära oss vad vi förväntas göra under en mänsklig livstid.
Våra ändliga liv, ändliga hjärnor och begränsade kommunikationsförmåga har format den mänskliga intelligensens natur. Så även när vi fortsätter att utveckla smartare maskiner kan vi förvänta oss att det mänskliga sinnet förblir lite speciellt. Kom ihåg. Intelligens är inte en enda åtgärd, som att en AI kommer ikapp de fotspår en människa lämnar på en dörrkarm.
Med tanke på detta tänkesätt bör vi vara skeptiska till påståenden om övermänsklig AI. Att uppmärksamma skillnaderna i begränsningar, utbildning och hårdvara leder till en annan slutsats. AI är med andra ord inte bättre än människor på allt. Snarare kan de vara överlägsna människor i vissa avseenden och underlägsna människor i andra. AI och det mänskliga sinnet kommer helt enkelt att vara annorlunda. Och precis som bröder, kanske vi kan lära oss att behandla varandra inte som rivaler, utan som allierade.
Tom Griffith är professor i informationsteknologi vid Princeton University och författare till The Laws of Thinking (William Collins).
Läs mer
”The World Appears” av Michael Pollan (Allen Lane, £25)
If Someone Builds It, Everyone Dies av Eliezer Yudkowsky (Bodley Head, £22)
Being You: The New Science of Consciousness av Anil Seth (Faber, £12,99)
