– Det kan hallucinera och vi måste vara försiktiga med att upprätthålla en uppsättning bevis mellan vad systemet framställdes och slutsatserna om var det kom ifrån.
Det är viktigt att vara transparent när man använder Agent AI -teknik tillsammans med kunskaper i leveranskedjan.
-Ian Riopel, VD och medgrundare av Root.io, betonar att transparens är en stor del av detta.
– Allt vi publicerar eller levererar till dig kan se källkoden. De måste kunna se vad som har förändrats. Säkerhet genom tvetydighet är inte ett bra sätt att göra det.
En annan risk är att organisationer som försöker integrera AI -agenter förbiser grundläggande säkerhetsfrågor.
”Det är en ny teknik, människor flyttar snabbt, levererar den, förnyar och skapar nya saker,” säger Hillai Ben-Sasson, molnsäkerhetsforskare på Wiz.
-Veryone skapar en MCP -server för sina tjänster så att AI kan interagera med dem. Men MCP är i slutändan densamma som API. Gör inte samma misstag som de som gjordes när du började skriva ditt API för 10 år sedan. Alla dessa autentiseringsproblem och tokens är alla API -säkerhet.
Agent AI kan vara en spelväxlare
Trots att många tror att det är en haj runt AI -poster, säger experter att fördelarna med AI -agenter kan ändra cybersäkerhet om de implementeras i reflektion och dagg.
AI-agenter är ”framtiden”, säger Ben-Sasson från Wiz.
– Men med tanke på att AI -utvecklingen fortfarande är oerfaren kan AI -agenter göra många misstag som juniorutvecklare. Därför varierar kvalificeringsuppsättningarna. Därför finns det skyddande skenor och mer.
Den verkliga fördelen med AI -agenter är att de kan hantera de tråkiga och nödvändiga uppgifterna om cybersäkerhet för att påskynda säkerhetsprogram och släppa personal för att bli multiplikatorer från arbetskraften.
– Vi brände av några av våra agenter i tre gener mot en av våra bästa säkerhetsforskare för att skapa backportade korrigeringar för kritiska sårbarheter i mycket populär öppen källkodsprogramvara.
– Och det tog forskaren åtta dagar att skapa en patch som annars inte skulle vara tillgänglig. Jag var tvungen att ändra 17 olika kodsektioner med tre olika programvarutaganden. AI -agenten gjorde det inom 15 minuter. När du tänker på det är det inte tio gånger, det är 1 000 gånger.
Inte förlorat arbete, men färdighetsskift
Även om många säkerhetsanalytiker kan ta bort de uppgifter de utför idag, är det osannolikt att Agent AI kommer att minska storleken på deras nuvarande arbetskraft för cybersäkerhet.
– Du kommer inte att bli avskedad till din agents fördel, säger Riopel.
– Jag tror att vi upplever en kompetensförskjutning, men vi kallar det inte en fullständig ersättning, säger Rad Security mest.
-Vad AI påverkar vilken typ av låg nivå pappersarbete som har CSV-rapporter. Lägg det i Excel, skapa en fästing och lägg till det mesta.
Men han säger:
– Det släpper extrem produktivitet för säkerhetsteam för dem som vet hur man använder den. Med andra ord, det är en fantastisk asterisk. Om du är emot AI och inte tycker att det är en färdighet du borde ha i din verktygslåda, kommer att upprätthålla samma nivå av senioritet i det arbete du för närvarande har en utmaning i framtiden.
Zafran Security Series tycker att det är fel att säga att AI -agenter betyder att det finns färre cybersecurity -experter.
-Vi behöver dem mer, säger han.
– Dessa verktyg har möjlighet att automatisera och underlätta livet, men de bör inte ersätta den expertis som folk samlas över tiden.
Hur ska CISO gå?
Alla experter säger att det är sant att använda AI -agenter inom en organisation och kommer att vara snabbare än andra teknikförändringar, inklusive antagandet av molnberäkning.
– De flesta säger att detta tåg inte bara har lämnat stationen utan är ett snabbt tåg. Detta är som det snabbaste tåget som någonsin har tillverkats.
CISO: er kommer sannolikt att vända sig till AI -plattformar för att utveckla säkerhetslösningar, och måste därför snabbt komma in och ta itu med konsekvenserna av teknik som inte alltid är helt kontrollerade.
– Att säga nej fungerar inte. Du måste säga att du är ok med räcket, säger de flesta.
I detta tidiga skede av Agent AI måste CISOS ställa frågor, säger Riopel. Men han betonar att de viktigaste frågorna att ställa är: Hur kan du multiplicera teamresultat och effektivitet på mycket kort tid?
– och på en kort period betyder det dagar snarare än månader. Detta är den typ av avkastning du hänvisar till, även i en företagsmiljö.
Ingen håller med om att strävan efter en komprimerad tidsram är rätt strategi.
– I många fall, från CISO -perspektivet, är agent AI -tjänsterna de använder fortfarande omogna, enligt Wiz’s Riancho.
-Det är fortfarande en omogen bransch. Det tar många års säkerhetsförbättringar för att säkerställa att allt är mer stabilt och säkert för företag och slutanvändare.
Men Liancho anser också att CISO: er bör ställa många frågor nu.
– Ställ svåra frågor. Innan du faktiskt ansluter agenten till min Endpoint -enhet, fråga infrastrukturen, min SOC, vad som helst och alla svåra frågor. Vilka åtgärder kommer dessa agenter att vidta?
Den viktigaste frågan som CISOS bör ställa är vad som händer med organisationens information efter att den har ingåtts i en viss leverantörs AI -produkt.
-Serier från Zafran Security sa att han inte vill skicka data till andra leverantörer som Open AI eller Anthropic.
– Detta är grundläggande. Kontrollera vyerna utan att flytta de uppgifter du delar runt om i världen.
