Bill Gates: Skydd, övervakning och ansvar för AI-system

Microsofts medgrundare Bill Gates sade i NBC News program Meet the Press att det är ”helt oansvarigt” att inte kräva säkerhetsåtgärder och övervakning för AI-system. Han varnade för att det mer akuta hotet kommer från illasinnade aktörer som använder AI. Gates uttalade sig också för regulatorisk medverkan och tredjepartsutvärderingar.

Obligatoriska säkerhetsåtgärder och tillsyn av branschen

I intervjun sade Gates: ”Det är helt oansvarigt att inte kräva att varje AI har dessa säkerhets- och övervakningsfunktioner.” Han menade att rättsväsendet och folkvalda bör delta i diskussionerna om vilka säkerhetsåtgärder och vilken övervakning AI-företag ska införa. Gates sade att det skulle innebära en viss belastning för branschen att involvera tillsynsmyndigheter, men inte leda till en ”dramatisk inbromsning av vad de gör”.

Förslag om nödstopp och hotet från illasinnade aktörer

Kaliforniens guvernör Gavin Newsom har föreslagit ett så kallat nödstopp, bland andra åtgärder för att möta den snabba AI-utvecklingen. När Gates fick frågan om förslaget sade han: ”Jag skulle aldrig vilja säga att jag är emot ett nödstopp”, men tillade att en sådan mekanism inte skulle hantera den mer omedelbara risken. Han betonade att det främsta kortsiktiga bekymret är ”personer med illvilliga avsikter som använder AI”. Gates varnade: ”Det har aldrig funnits ett vapen så kraftfullt som kombinationen av personer med illvilliga avsikter som använder de senaste AI-verktygen”, och nämnde särskilt risker som bioterrorism och omfattande ekonomiskt bedrägeri möjliggjort av AI.

Tredjepartsutvärdering och de senaste rörelserna i branschen

(Uttalandena kom efter en period då flera vd:ar för AI-företag signalerat stöd för att bromsa utvecklingstakten. Separat har Anthropic nyligen anlitat Accenture som tredjepartsutvärderare för sina senaste AI-modeller, ett steg som ligger i linje med Gates uppmaning till extern övervakning och tillsyn.)