Elon Musks enda expertvittne i OpenAI-rättegången väcker oro över AGI:s kapprustning

När ska vi ta AI:s öde på allvar?

Här är en nyckeluppdelning av Elon Musks försök att stänga OpenAIs kommersiella AI-verksamhet. Hans advokater hävdar att organisationen grundades som en välgörenhetsorganisation fokuserad på AI-säkerhet och har tappat koll på sin strävan efter vinst. För att bevisa det citerar de gamla mejl och uttalanden från organisationens grundare om behovet av en allmännyttig motvikt till Google DeepMind.

Idag kallade de sitt enda sakkunniga vittne. Peter Russell är professor i datavetenskap vid University of California, Berkeley, som har forskat på AI i decennier. Hans jobb var att ge bakgrund om AI och bevisa att denna teknik är oroande farlig.

I mars 2023 undertecknade Russell ett öppet brev där han uppmanade till ett sex månaders moratorium för AI-forskning. Som ett tecken på motsägelsen här skrev Musk under samma brev även när han lanserade sitt eget vinstdrivande AI-labb, xAI.

Russell berättade för jurymedlemmarna och domaren Yvonne Gonzalez Rogers att det finns en mängd olika risker med att utveckla AI, från cybersäkerhetshot till problem med felinriktning och vinnarna-tag-allt-karaktären av att utveckla artificiell allmän intelligens (AGI). I slutändan, sa han, finns det en spänning mellan jakten på AGI och säkerhet.

Russells större oro över det existentiella hotet om obegränsad AI rapporterades inte i öppen domstol, eftersom domaren begränsade Russells vittnesmål över invändningar från OpenAI:s advokater. Men Russell har länge kritiserat kapprustningsdynamiken som skapats av fjärrlaboratorier runt om i världen som tävlar om att bli de första att uppnå AGI, och uppmanat regeringar att reglera området strängare.

OpenAI:s advokater tillbringade tid med att korsförhöra Russell och konstaterade att han inte direkt bedömde organisationens företagsstruktur eller specifika säkerhetspolicyer.

Men den här reportern (liksom domaren och juryn) kommer att väga hur mycket vikt man ska lägga mellan företagens girighet och oro för säkerheten hos AI. Praktiskt taget alla OpenAIs grundare varnade passionerat för riskerna med AI samtidigt som de betonade dess fördelar, försökte bygga ut AI så snabbt som möjligt och utvecklade planer för ett AI-fokuserat kommersiellt företag som de skulle kontrollera.

Om man tittar utifrån är det uppenbara problemet här att det har funnits en växande insikt inom företaget sedan OpenAI grundades att organisationer helt enkelt behöver mer datautgifter för att bli framgångsrika. Den finansieringen kan bara komma från kommersiella investerare. I rädsla för att AGI skulle hamna i händerna på en enda organisation, sökte grundarteamet finansiering och slet sönder teamet, skapade den kapprustning vi känner idag och förde oss till denna rättegång.

Samma dynamik utspelar sig redan på nationell nivå, med senator Bernie Sanders som driver lagstiftning som skulle införa ett moratorium för konstruktion av datacenter, med hänvisning till oro för AI som uttryckts av Musk, Sam Altman, Jeffrey Hinton och andra. ”Det är oklart varför allmänheten ska ignorera allt teknikmiljardärer säger om inte deras ord kan samlas för att fylla hålen i en farlig debatt”, säger Hoden Omar, som arbetar på branschgruppen Center for Data Innovation, problem med Sanders som citerar rädsla istället för hopp, säger till TechCrunch.

Nu ber båda parter i målet domstolen att ta vissa delar av Altmans och Musks argument på allvar, samtidigt som de ignorerar delar som inte tillför så mycket till det juridiska argumentet.