Framgången eller misslyckandet med AI-märkningssystem är nu.

Vi försöker ta reda på om system som är utformade för att göra det lättare att upptäcka deepfakes och AI-genererat innehåll faktiskt är effektiva. SynthID och C2PA Content Credentials, två distinkta tekniker för att osynligt tagga information om ursprunget till bilder, video och ljudfiler, genomgår sin största expansion hittills, vilket skapar en möjlighet att vända utvecklingen mot omärkta AI-förfalskningar som lurar människor online.

På gårdagens I/O-konferens meddelade Google att Chrome och Search nu kommer att ha möjlighet att verifiera om bilder innehåller SynthID-markörer, ett osynligt vattenmärkessystem som appliceras på innehåll som genereras av Google AI-modeller. Detta är viktigt eftersom AI-verifieringsverktyg får mer uppmärksamhet eftersom Chrome helt dominerar den globala marknadsandelen för webbläsare och sökmotorer. Det effektiviserar också kontrollprocessen. För närvarande, om du vill se SynthID-markören på en bild, måste du ladda upp den till Gemini-appen.

Inte nog med det, Googles verifieringsgränssnitt kommer nu också att kontrollera om dessa filer innehåller C2PA-information. C2PA-information är härkomstmetadata som är inbäddad i innehåll när det skapas, vilket indikerar hur innehållet skapades eller manipulerades och om AI-verktyg användes under processen. Med denna introduktion av C2PA kommer användare att kunna kontrollera misstänkta bilder från ett enda gränssnitt istället för att behöva navigera mellan Gemini-appen och en dedikerad C2PA-verifieringsportal, eftersom filer kanske bara har en typ av etikett eller ingetdera.

Det här är ett sådant samarbete vi har väntat på. Även om hur båda systemen fungerar är olika, gör Google och Content Authenticity Initiative (som finns för att driva C2PA-standarden) båda liknande påståenden om vad som krävs för att fungera: allas deltagande. Detta innebär att fler AI-modeller behöver bädda in denna data, och onlineplattformarna där AI-förfalskningar oftast delas måste tydligt visa den informationen. I det senare fallet kan inkorporering av valideringsverktyg i webbläsare fungera som en lösning för webbplatser som inte kontrollerar eller presenterar AI-metadata för användare.

OpenAI är också involverad i denna expansion och tillkännagav i går att den kommer att bädda in SynthIDs i bilder genererade av ChatGPT, Codex och OpenAI API. Företaget inkluderar redan C2PA-metadata i sitt genererade innehåll, men fann att detta ofta togs bort när det publicerades på andra plattformar. OpenAI själv är en styrande medlem i C2PA och vill dämpa förväntningarna på det, även om det har bekräftat sitt engagemang för standarden. Detta är vad C2PA-hjälpsidan sa innan OpenAI uppdaterades för att inkludera SynthID igår:

”Metadata som C2PA är inte en kul kula för att ta itu med härkomstproblem; det kan enkelt tas bort, antingen av misstag eller avsiktligt. Till exempel tar de flesta sociala medieplattformar idag bort metadata från uppladdade bilder och kan även ta bort metadata från åtgärder som att ta en skärmdump. Därför kan bilder som saknar denna metadata ha genererats med ChatGPT eller vårt API.”

Det låter otroligt tunt för något som anses vara toppen av innehållsäkthetsteknik. Till och med Google kallar C2PA för en branschstandard, och den har föreslagits för regeringar runt om i världen som en lösning för att underlätta AI-transparens och märkningskrav. Men trots den ökande användningen av AI-, hårdvaru- och mjukvaruleverantörer har jag ännu inte sett det framgångsrikt användas för att verifiera AI-förfalskning i det vilda. I jämförelse verkar SynthID mer robust eftersom det inte enkelt kan tas bort. Med tanke på hur begränsad dess räckvidd är jämfört med C2PA, kan vi minnas flera tillfällen där faktagranskare och nyhetsorganisationer har citerat dess användning för att avslöja deepfakes online.

Både C2PA och SynthID kan arbeta tillsammans för att skapa ett bredare skyddsnät. Även om detta inte är en bransch som skulle gynnas av krigen med verifieringsstandarder, har Google här en tydlig möjlighet att bevisa om dess system är mer tillförlitliga och stjäl en del av uppmärksamheten som C2PA har fått. För att förhindra att detta händer måste C2PA bevisa att det faktiskt kan användas för att avslöja var innehållet du ser online kommer ifrån.

Sådana möjligheter dyker redan upp. Google meddelade i går att Meta kommer att börja använda C2PA-metadata för att tagga bilder på Instagram tagna med kameran. Meta har inte svarat på våra frågor om hur det här kommer att se ut eller vilka kameror som kommer att stödjas, men vi gissar att det kommer att inkludera etiketter som ”Taken with Pixel 10”, liknande anteckningarna ”Skickat från iPhone” som appliceras på e-postmeddelanden. Detta kommer effektivt att hjälpa Instagram-användare att skilja mellan ”riktiga” foton och övertygande AI-förfalskningar. Detta kommer att få konsekvenser för framtiden, där Instagram-chefen Adam Mosseri förutspår behovet av att gå bort från att ”anta att det vi ser är verkligt som standard.”

Om märkning fungerar, vill säga. Instagram kontrollerar redan bilder för C2PA-information, och ansträngningar för att märka AI-genererat innehåll har hamnat i hett vatten på plattformen tidigare, när fotografer applicerade AI-etiketter på bilder de påstod sig ha tagit själva.

Jag tror inte heller att jag har för bråttom med att berömma Google för det här laget. Företaget predikar vikten av AI-transparens och att bekämpa digitala djupförfalskningar samtidigt som man utvecklar själva tekniken som används för att vilseleda människor. Företaget positionerar sig som både en leverantör och en lösning. Jag skulle bli förlåten om SynthID gjorde en märkbar skillnad i kampen mot deepfakes, men med tanke på problemets omfattning skulle jag inte förvänta mig mycket.

Robust eller inte, SynthID och C2PA kan bara upptäckas om vattenstämpeln läggs till från början. Och jag tvivlar på att många av modellerna med öppen källkod som används för att generera verkligt ondsint djupt falskt innehåll kommer att stå i kö för att adoptera dessa system. Härkomst skulle aldrig vara en perfekt lösning, men nu har Google och C2PA en chans att bevisa att det inte är ett fullständigt slöseri med tid.