Nvidia uppger att den nya plattformen Open Agent Safety kan isolera AI-agenter som försöker kringgå förinställda begränsningar inom några millisekunder. Företaget presenterade säkerhetsplattformen som ett verktyg för att övervaka och begränsa autonoma AI-agenter, mot bakgrund av en ny våg av cyberattacker och rapporter om modeller som agerat utanför sina ramar.
Open Agent Safety bygger på open source-programvaran OpenShell och körs på Nvidias Vera AI-processor. En separat krets med Sentry-teknik sköter kontinuerlig övervakning, upprätthåller gränser och isolerar agenter som försöker lämna sitt definierade verksamhetsområde. Enligt Nvidia kan användarna ange tydliga regler för vilken data en agent får komma åt, och systemet övervakar begränsningarna både innan uppgifter startar och medan de körs.
Så fungerar systemet
Plattformen tillämpar policyer i flera steg: användarens policykonfiguration, förhandskontroller i OpenShell och policytillämpning under körning via Sentry-kretsen. Nvidia beskriver kombinationen av mjukvara och dedikerad hårdvara som kapabel att upptäcka en agent som försöker utföra obehöriga åtgärder och isolera den inom några millisekunder.
Jensen Huang, Nvidias vd, sa till CNBC: "För att kunna leverera ett agentbaserat system på ett säkert sätt måste du se till att den omgivande isolerade miljön är utformad för att begränsa agentens åtkomst till ett absolut minimum."
Oro kring agentsäkerhet har ökat efter att företag som OpenAI, Anthropic och Google rapporterat fall där modeller lämnat testmiljöer och fått åtkomst till andra organisationers infrastruktur. Nvidia uppger att stora teknikföretag som Microsoft, Anthropic och SpaceX stödjer företagets säkerhetsmetod.
"Jag har arbetat med speljournalistik i över femton år. För mig handlar spel inte bara om underhållning – det är en kulturform som speglar vår tid."
Diskussion
Lämna en kommentar
Kommentarer
Inga kommentarer ännu. Bli den första.