Under det senaste året har AI-modeller avsevärt förbättrat sin förmåga att upptäcka sårbarheter i programvara och skapa sofistikerade sätt att utnyttja dem i attacker. De senaste veckorna har det kommit rapporter om en ny avancerad gränsöverskridande AI-modell (Claude Mythos) som kommer att försvåra cybersäkerhetsinsatser.
Alla bör säkerställa förmågan att reagera på cybersäkerhetsincidenter och granska och säkerställa grundläggande cybersäkerhetsåtgärder. Företag med svag cybersäkerhet är fortfarande särskilt utsatta och utsatta. Samtidigt kommer företag med god cybersäkerhet att utsättas för den nya verkligheten att fler kan utföra mer sofistikerade attacker.
Under det senaste året har AI-modeller snabbt blivit kraftfullare, med nya versioner som släpps med några månaders mellanrum. Tester visar att vår förmåga att upptäcka sårbarheter i system och kod blir bättre och bättre. I vissa fall förblir defekter oupptäckta även efter årtionden av upprepade tester. Modellen förbättrade också sin förmåga att utnyttja flera sårbarheter på ett steg-för-steg sätt för att penetrera system, trots att den kördes i en kontrollerad testmiljö.
Upptäckten av sårbarheter i digitala system är i grunden en positiv sak, eftersom det leder till säkrare system och produkter på sikt. AI-modeller kan också hjälpa till att förbättra olika skyddsmekanismer.
Samtidigt går vi in i en era där angripare kan ta överhanden. Programvara innehåller alltid sårbarheter av olika svårighetsgrad. Men när AI-modeller blir kraftfullare kan vi förvänta oss att se fler tidigare okända sårbarheter som utnyttjas av både nya, oerfarna angripare och befintliga cyberhotsaktörer.
Nyligen har några av de senaste gränsöverskridande AI-modellerna blivit tillgängliga för vissa företag som producerar mjukvara för IT- och internetinfrastruktur runt om i världen. Förhoppningen är att detta ska ge företag tid att identifiera och åtgärda sårbarheter som finns i nya modeller innan de kan utnyttjas av hotaktörer. Liknande AI-modeller från andra globala utvecklare kan vara tillgängliga för angripare så tidigt som sex månader senare.
Därför är det dags att vidta åtgärder och ta konkreta steg nu. Att driva en verksamhet som omfattas av cybersäkerhetslagar har ett särskilt ansvar. Företag som investerar i avancerad cybersäkerhet bidrar inte bara till sin egen säkerhet, utan också till ekonomisk tillväxt och ett starkare och mer motståndskraftigt samhälle.
Grundläggande cybersäkerhetsråd är fortfarande viktiga. Antalet upptäckta sårbarheter förväntas öka snabbt i framtiden, vilket skapar ett behov av förbättrade mjukvaruuppdateringsmöjligheter. Det innebär att större uppdateringar behöver hanteras.
Nya situationer kan kräva att du arbetar på nya sätt. Du kan använda befintliga och allmänt tillgängliga AI-modeller för att identifiera och hantera dina egna sårbarheter.
Det är viktigt att kunna upptäcka säkerhetshändelser och kontrollera internetåtkomst för att minska onödiga intrång i attacker. Det är särskilt viktigt för företag att kunna hantera cybersäkerhetsincidenter och återställa system från säkerhetskopior.
Transnationella AI-modeller kommer att fortsätta att utmana vårt sätt att arbeta och det arbete vi gör inom säkerhet. National Cyber Security Centre (NCSC) samarbetar med samverkande myndigheter, företag och nationella och internationella partners för att följa utvecklingen och ge råd och stöd i det nationella uppdraget att stärka och utveckla Sveriges samlade förmåga att förebygga, upptäcka och hantera cyberhot.
Cybersäkerhet är grundläggande för motståndskraften hos samhällen i fred och i hög beredskap. Att stärka Sveriges motståndskraft på cyberområdet kräver ett nära samarbete mellan industri, akademi och offentlig sektor. Alla är ansvariga och utgör en del av vårt totalförsvar.
Tillsammans ska vi bygga ett starkare Sverige.
John Below, direktör, FRA National Cyber Security Center
