AI som försvar: automatiska agenter för cybersäkerhet

Föreställ dig ett program som kan utarbeta ett fungerande exploit medan en mänsklig analytiker fortfarande läser varningen. Skrämmande? Det är det. Och Greg Brockman, OpenAI:s president, slår larm utan de vanliga företagsförbehållen.

Brockman menar att samma genombrott som gör AI bättre på att skriva kod också sänker tröskeln för angripare. Botemedlet han föreslår är motintuitivt i sin enkelhet: använd AI mer, och snabbare, för att försvara nätverk och mjukvara.

Varför försvarare bör välkomna autonoma hjälpmedel

AI, säger han, kan förändra ekonomin inom cybersäkerhet till försvarens fördel. Tänk maskiner som producerar betydligt säkrare kod. Eller formella, matematiska bevis som ligger till grund för kryptografiska system. Det är inte science fiction. Det är praktiska verktyg som kan minska mänskliga misstag och göra säkerhet skalbar.

Så vad bör säkerhetsteam egentligen göra? Brockman rekommenderar att prioritera AI-agenter som en del av säkerhetsverktygslådan. Dessa agenter är inte bara marknadsföring. De kan skanna kod, påvisa sårbarheter, analysera risk i leverantörskedjan och utföra triage i hastigheter som ett mänskligt team inte kan matcha. Börja smått. Bygg förtroende. Sedan gå vidare.

• Börja med enkla automatiska skanningar för att identifiera lättåtgärdade problem.
• Gå vidare till operationella skanningar som körs kontinuerligt mot produktionsmiljöer.
• Inför automatiserad undertryckning och korrigering för uppenbara falska positiva resultat.

Betoningen på en stegvis utrullning är avsiktlig. Brockman vill att försvaret ska mogna steg för steg istället för att släppa in en otestad agent och hoppas på det bästa.

De senaste månaderna har tydliggjort denna spänning. Banbrytande modeller som Mitos från Anthropic har blivit föremål för granskning från säkerhetsteam och tillsynsmyndigheter. Dessa system levereras ofta som program med begränsad åtkomst för betrodda partner, ändå har deras förmåga att upptäcka konfigurationsfel och väva nya angriparkedjor fått många att hålla noga uppsikt. Utvecklingen kretsar nu kring agenter som kan interagera direkt med mjukvara, vilket både ökar möjligheter och risker.

Vissa säkerhetsforskare oroar sig för att skydden kring stora språkmodeller inte utvecklats lika snabbt som modellerna själva. Denna klyfta är betydelsefull. Smartare organisationer med tillgång till ledande modeller driver redan motåtgärder och patchar. Oracle, till exempel, publicerade omkring 1 450 säkerhetsfixar bara förra månaden, en påminnelse om att mjukvaruunderhåll är ett obarmhärtigt slit.

Det finns inga universallösningar. Införandet kommer att se olika ut mellan företag. Men budskapet är tydligt: behandla AI som en effektförstärkare för försvaret, inte bara som en ny punkt på produktplanen. Hur snabbt ni agerar kan avgöra om ert team håller sig steget före eller blir reaktivt.

Använd AI för att hitta och åtgärda det som AI gör lättare att utnyttja.