Bill Gates varnar: AI kräver strikt offentlig reglering

Bill Gates berättade för Nilay Patel att artificiell intelligens inom två till tre år kommer att orsaka mätbara skador genom cyberattacker och på arbetsmarknaden.

Prognosen kom samtidigt som Gates ton har förändrats tydligt. Han har tidigare varit offentligt optimistisk kring AI, men efter en varning tidigare i somras och i en separat intervju med New York Times, där han kallade AI "det farligaste mänskligheten ännu närmat sig", hävdar han nu att modellernas snabba framsteg kräver omedelbar statlig inblandning för att hantera riskerna och värna mänsklig sysselsättning.

I ett långt samtal med Nilay Patel, seniorredaktör på The Verge och programledare för podden Decoder, beskrev Gates varför det senaste årets språng i modellernas kapacitet har väckt akut oro, varför det är oansvarigt att låta ofiltrerade modeller köras på persondatorer och varför även de kommande 20 åren i bästa fall kan bli några av de mest turbulenta i mänsklighetens historia. Han lade upprepade gånger ansvaret på offentliga myndigheter i stället för att förlita sig på att företagen ska reglera sig själva.

Konkurrens, tillsyn och gränserna för frivillig återhållsamhet

Gates sade att forskningslabb som OpenAI, Anthropic och Google DeepMind började med löften om styrning och en retorik med fokus på säkerhet, men snabbt hamnade i ett intensivt kommersialiseringsrace. Han nämnde chefer som Sam Altman, Dario Amodei, Satya Nadella och Sundar Pichai som branschledare som känner till de interna varningarna, men menade att frivilliga bromsar sannolikt inte kommer att hålla när flera konkurrerande företag tävlar.

Han beskrev OpenAI:s ursprungliga struktur och dess icke-vinstdrivande åtagande som hållbara endast så länge en enda organisation låg i framkant. När konkurrenterna blir fler måste regeringarna, enligt Gates, kliva in på samma sätt som de gör med andra farliga tekniker. Han uttryckte förvåning över att det fortfarande saknas en statligt föreskriven process för utvärdering och testning av modeller före offentlig lansering, och jämförde med regelverken för flygplan och bilar.

Han sade att regeringar måste införa obligatorisk utvärdering och testning av AI-modeller före driftsättning.

Lokala modeller, plattformsstyrning och biologisk risk

Gates drog en tydlig gräns mellan molnbaserade, övervakade modeller och nedladdningsbara öppna viktfiler. Stora aktörer som kör modeller i molnet kan behålla säkerhetsåtgärder och övervaka användningen för att minska risken på kort sikt. Faran ligger, enligt honom, i modeller vars säkerhetsskydd kan tas bort och som kan köras lokalt på konsumenthårdvara.

Han hävdade att det inte är ansvarsfullt att tillåta distribution av råa viktfiler för körning på persondatorer när modellerna passerar en viss kapacitetströskel. I stället bör de endast köras på godkända plattformar som hindrar manipulation av säkerhetsmekanismerna. Gates förde samma resonemang kring distributionsplattformar: han efterlyste särskilda regler för publicering av kraftfulla modeller och kontroller av plattformar som GitHub, som i dag har få begränsningar för kodpublicering. Han sade att en plattform bör kräva godkännande från den amerikanska regeringen innan en modell som kan användas för omfattande cyber- eller biologiska angrepp publiceras i en form där användare kan modifiera den för att ta bort skydd.

Gates varnade för att oreglerad AI kan demokratisera destruktiv kraft på ett sätt som inte ens kärnvapenåldern gjorde. Under atomåldern kunde enligt honom endast större stater bygga massförstörelsevapen, medan oreglerad AI kan ge små grupper tillgång till förödande cyber- och biologiska kapaciteter.

I frågan om politiken bör fokusera på chip eller plattformar betonade Gates att kontroll över distribution och körning på plattformsnivå är avgörande för tillsynen. Han sade att om myndigheterna dröjer kommer kraftfulla modeller att bli tillgängliga för aktörer utanför övervaknings- och rättsapparatens räckvidd.

Gates tog också upp utvecklarnas oenighet om modellmedvetande. Han menade att debatter om AGI eller självmedvetande i stort sett är irrelevanta ur säkerhetssynpunkt. Huvudfrågan är pragmatisk och binär: om ett system kan stänga ned ett banksystem eller ett kraftnät. Han tillade att han inte tror att dagens modeller har mänskligt medvetande och instämde med Microsofts Mustafa Suleyman i att modeller inte bör behandlas som kännande enheter.

Gates skisserade tre tydliga tekniska vägar för att kontrollera modeller. Den första är en extern övervakare med uttryckliga, symboliska regler som kontrollerar modellens handlingar utanför själva modellen. Den andra är att ändra träningsmålen, eftersom allt som inte uttryckligen har kodats i belöningsfunktionen i dagens metoder för förstärkningsinlärning kan utnyttjas eller kringgås. Den tredje är bättre intern transparens, så att ingenjörer kan granska modellen och spåra källan till fel eller avvikelser i nätverket.

Gates sade att dagens praxis, där modeller tränas och sedan observeras för att se hur de beter sig, inte är omöjlig att lösa men kräver fokuserat arbete på dessa tre fronter.

Han diskuterade också de ekonomiska konsekvenserna och ett privat experiment som han beskrev med Anthropics Claude. Gates sade att AI gradvis kommer att ta över många kontors- och tjänstemannauppgifter, från kundsupport, telefonförsäljning och bokföring till mer komplexa funktioner som programmering, matematisk forskning och medicinsk diagnostik. Den fortsatta utvecklingen kommer senare även att föra in fysisk robotautomation i hantverks- och industrijobb.

Eftersom arbete ger både inkomst och en känsla av mening sade Gates att samhällen medvetet kan reservera vissa roller för människor, även där AI skulle kunna prestera bättre. Han beskrev samtal med Claude om att behålla en mänsklig andel av jobben och sade att han försökte sätta ett mål på att omkring 40 procent av sysselsättningen skulle förbli under mänsklig ledning. Claude svarade konsekvent att en sådan begränsning skulle vara en artificiell inskränkning av AI:s kapacitet.

Gates varnade för att även 40 procent av jobben kan försvinna ur mänskliga händer utan avsiktliga begränsningar. Han förutspådde att de störningar som redan märks bland matematiker kommer att sprida sig till andra områden. Samtidigt som vinster inom medicin och lägre levnadskostnader tar tid att förverkliga, är det sannolikt att säkerhets- och arbetsmarknadsskador visar sig inom två till tre år.

Han avslutade med att säga att de kommande två decennierna kommer att bli extremt omvälvande även om AI hanteras väl. Vissa människor kommer att omfamna tekniken, medan andra kan dra sig undan till samhällen som liknar amishsamfund. Han sade att en slutlig era av överflöd är möjlig, men uppmanade till ärliga offentliga varningar och aktiva politiska val för att forma hur den framtiden fördelas.

Gates sade att han ogillar att komma med alarmistiska prognoser, men insisterade på att det är nödvändigt att varna allmänheten och att mänskligheten fortfarande kan välja hur teknikerna ska styras.