4 Minuter
Varningsskottet har kommit. Google uppger att de har upptäckt vad som verkar vara den första kända nolldagsexploiten som utvecklats med hjälp av artificiell intelligens, en upptäckt som för AI:s säkerhetsrisker in i ett betydligt mer oroande område.
Enligt Googles grupp för hotintelligens var exploiten knuten till en hotaktör som förberedde vad företaget beskrev som en potentiell massutnyttjandehändelse. Enkelt uttryckt var detta inte ett engångsexperiment eller ett proof of concept. Det såg ut som något avsett att användas i stor skala. Google säger att deras tidiga upptäckt kan ha stoppat attacken innan den kunde driftsättas.
Den detaljen är viktig eftersom nolldagssårbarheter hör till de farligaste verktygen inom cyberbrott. De utnyttjar programvarufel som fortfarande är okända för leverantören eller offret, vilket betyder att det inte finns någon färdig patch och ingen tid att förbereda sig. Angripare agerar först. Alla andra får rusa för att hinna ikapp.
När AI slutar vara teoretiskt
Google namngav inte det företag som var måltavla, men uppgav att de underrättade den berörda organisationen och att problemet sedan dess har åtgärdats med en patch. Angriparna identifierades inte heller. Rapporten pekar ändå på ett växande intresse från grupper kopplade till Kina och Nordkorea, båda noggrant bevakade för att de experimenterar med AI i offensiva cyberoperationer.
Google sade också att man inte tror att deras egna Gemini-modeller var inblandade. Ändå hävdar företaget att man har stort förtroende för att ett AI-system spelade en roll i att hitta sårbarheten och hjälpa till att omvandla den till en användbar exploit. Den skillnaden är viktig. I åratal har teknikbranschen diskuterat när AI skulle gå bortom phishingmejl, falska profiler och automation och nå de svårare, mer tekniska lagren av cyberattacker. Detta verkar vara ett av de tydligaste tecknen hittills på att förändringen är igång.
John Hultquist, chefsanalytiker på GTIG, beskrev fallet som en förhandsvisning av vad som väntar och kallade det en försmak av det som kommer och endast toppen av ett isberg i kommentarer till The New York Times. Det kan låta dramatiskt, men logiken är svår att bortse från. AI-modeller blir snabbare, billigare och mer kapabla. Om de kan hjälpa försvarare att hitta farliga fel innan kriminella gör det, kan de också hjälpa angripare att leta efter svaga punkter med mycket mindre ansträngning än tidigare.
Det är den obekväma balans som genomsyrar hela cybersäkerhetsbranschen just nu. Samma teknik som kan snabba upp angrepp kan också stärka försvaret. Google uppger att hotaktörer redan använder AI i olika stadier av cyberoperationer, medan säkerhetsteam tävlar om att applicera samma verktyg på sårbarhetsupptäckt, incidenthantering och hotdetektion.
Andra rör sig åt samma håll. Anthropic introducerade nyligen Projekt Glasswing, ett initiativ som bygger på att använda Claude Mythos Förhandsgranskning för att identifiera och försvara mot högallvarliga sårbarheter. Budskapet från hela sektorn blir svårare att bortse från: AI sitter inte längre vid sidan om cybersäkerheten. Det blir en aktiv deltagare på båda sidor.
För globala teknikobservatörer känns detta ögonblick mindre som en överraskning och mer som en gräns som korsas. Idén om AI-assisterade cyberattacker har diskuterats i åratal. Nu finns det påtagliga bevis. Och när den dörren väl öppnas stängs den sällan igen.
Lämna en kommentar