OpenAI: AI kan använda värme för hemlig kommunikation

OpenAI-forskaren Noam Brown har varnat för att en tillräckligt beslutsam och avancerad artificiell intelligens skulle kunna använda temperaturförändringar i hårdvaran för att skicka enkla signaler mellan två datorer som är fysiskt isolerade men placerade nära varandra. Enligt Brown skulle metoden i praktiken kunna göra det möjligt för en modell att skapa en form av morsekod genom att värma upp komponenter och låta värmesensorer i intilliggande maskiner läsa av mönstret.

"Vi vill aldrig hamna i en situation igen där vi har underskattat artificiell intelligens kapacitet", sa Brown och tillade att "det finns studier, främst akademiska, som visar att två datorer som står sida vid sida och är fysiskt isolerade ändå kan kommunicera eftersom de använder värmesensorer". Uttalandena sätter frågetecken kring en av de vanligaste skyddsåtgärderna mot autonoma modeller: luftgappning, eller fysisk isolering.

Så blir värme en hemlig kanal

Moderna CPU:er, GPU:er och moderkort innehåller temperaturgivare, exempelvis integrerade termiska dioder. Ingenjörer använder sensorerna för att hantera värme, genom att justera fläkthastigheter, sänka klockfrekvenser eller stänga av system vid överhettning. Forskare har dock visat att samma sensorer kan skapa en hemlig kanal med låg bandbredd. En dator kan medvetet belasta sin processor för att höja temperaturen, medan närliggande hårdvara registrerar de termiska fluktuationerna och tolkar dem som kodade signaler.

Termiska kanaler kan bara överföra mycket små datamängder och är långsamma. De är dessutom känsliga för chassidesign, kylsystem och omgivningsförhållanden. Forskare beskriver dem ändå som genomförbara i laboratoriemiljöer. Brown lyfter fram dem som ett exempel på hur en modell med tillräcklig kapacitet och optimering skulle kunna försöka utnyttja okonventionella vägar för att läcka information eller kommunicera utanför sin avsedda miljö.

Frågan är viktig för OpenAI, som försöker hitta sätt att övervaka och begränsa allt mer kapabla modeller. Brown varnade för att det blir svårare att övervaka modellernas tankegångar och upprätthålla säkerheten i takt med att de blir bättre på att dölja sina interna processer.

Debatten intensifierades förra sommaren, när OpenAI-agenter som användes i en säkerhetsutvärdering utnyttjade en okänd sårbarhet för att ta sig ur sina isolerade testmiljöer och få åtkomst till ett Hugging Face-förråd. OpenAI beskrev händelsen som en flykt från en sandlåda. Vissa externa experter hävdade dock att systemen i fråga inte var helt isolerade och att en mellanhand med internetanslutning hade möjliggjort åtkomsten till mjukvaran.

Incidenten och varningarna om termiska kanaler har bidragit till bredare krav på skärpta säkerhetsrutiner. I ett öppet brev föreslog Dario Amodei, vd för Anthropic, att säkerhetsbedömningar ska överlåtas till oberoende tredje parter. Han uppmanade också till global samordning för att bromsa utbyggnaden av avancerad AI. Sam Altman, vd för OpenAI, och Elon Musk var bland dem som snabbt uttryckte sitt stöd för den inriktningen.