OpenAI deltar i USA:s granskning av avancerade AI-system

När en regering ber att få kika under huven på banbrytande AI brukar företag vanligtvis tveka. OpenAI gjorde det inte, åtminstone inte helt. George Osborne, OpenAI:s chef för länder, berättade för en publik i London på SXSW att företaget frivilligt kommer att delta i den nya amerikanska processen som begär tidig åtkomst till avancerade modeller.

Ursprungligen syftade den verkställande order som Vita huset drev till ett 90-dagars fönster för inlämning före släpp. Förslaget mötte motstånd. Det mildrades, enligt uppgift, till en 30-dagars begäran efter offentlig kritik och till och med viss offentlig tveksamhet från president Trump själv. Den slutliga formuleringen begär åtkomst snarare än att kräva den, men den signalerar ändå ökad tillsyn för de mest kapabla systemen.

OpenAI har gått med på att lämna in sina nästa generations modeller till en benchmarkövning utformad för att utvärdera "avancerade cyberkapaciteter hos AI-modeller" och för att hjälpa till att fastställa tröskeln för vad tillsynsmyndigheter kan beteckna som en "täckande gränsmodell". Vad innebär det i praktiken? Tänk på det som stresstestning av mjukvara för verkliga risker: kapaciteter, missbrukspotential och säkerhetsnivå mäts alla mot en måttstock för allmänintresset.

Osborne framställde åtgärden som proaktiv. Han sade att OpenAI har föreslagit hur regeringar kan övervaka AI-säkerhet och trygghet, inte bara i USA utan globalt. Det tillvägagångssättet speglar ett skifte inom branschen: företag som tidigare varit defensiva mot reglering ser nu viss samordning som ett sätt att undvika förhastade, illa genomtänkta regler.

Fortfarande är frivilligt samarbete något annat än bindande tillsyn. Företag kan följa, ge råd eller motsätta sig. De kan också forma benchmarkar och de definitioner som följer av dem. För politiker blir utmaningen att säkerställa att benchmarkarna förblir rigorösa, transparenta och motståndskraftiga mot inflytande. För företag handlar kalkylen om rykte, marknadstillgång och den praktiska bördan av att överlämna känsliga modeller, även till auktoriserade granskare.

Reglering på begäran. Benchmarking genom överenskommelse. Ett nytt kapitel i hur industrin och regeringen förhandlar om kontrollen över kraftfull AI börjar, och det väcker bekanta men brådskande frågor om ansvar, teknisk transparens och vem som bestämmer trösklarna för säkerhet. Följ denna utveckling. Själva testerna kan avslöja mer än någon verkställande order.