Sam Altman om AI: risker, tillgång och behovet av tillsyn

OpenAI:s vd Sam Altman sade till Politicos tekniknyhetsbrev Decoded att fördelarna med och framstegen inom artificiell intelligens motiverar att man accepterar vissa risker, och att tekniken bör vara allmänt tillgänglig.

Altmans syn på risker, tillgång och tillsyn

I intervjun med Decoded sade Altman: ”Vi anser att världen måste acceptera vissa negativa utfall för att kunna skörda fördelarna med denna teknik och för att människor ska ha handlingsutrymme.” Han beskrev avvägningen som nödvändig för att människor ska kunna använda AI för positiva ändamål, i stället för att kontrollen samlas hos en enda institution.

Altman sade att han förstår dem som förespråkar strikta begränsningar, men att han inte delar uppfattningen att ett enda laboratorium i San Francisco bör kontrollera utveckling och distribution för att förhindra negativa händelser. Han kallade den hållningen ”en helt oacceptabel kompromiss” och sade att OpenAI förespråkar minimal och balanserad tillsyn snarare än centraliserad kontroll. Altman tillade att det är orimligt att försöka eliminera alla risker – exempelvis genom en överenskommelse om att helt stoppa säkerhetsintrång, missbruk, bedrägerier eller andra skador – eftersom han anser att AI:s positiva användningsområden i stor utsträckning kommer att väga tyngre än de potentiella skadorna.

Anthropics varningar och interna debatt

Uttalandena kommer mitt i en skärpt debatt om utvecklingstakten och riskerna med mer avancerade system. Anthropics vd Dario Amodei uppmanade utvecklare i september att bromsa utvecklingen i AI-forskningens framkant. Altman har tidigare offentligt uttryckt stöd för att sakta ned utvecklingen, men betonade i intervjun en tydlig skillnad mellan OpenAI:s och Anthropics syn på tillsyn och reglering.

Samma månad avgick Anthropic-forskaren Jacob Kackson med hänvisning till att utvecklare bedömer att systemen kan hota mänsklighetens överlevnad före decenniets slut. Anthropic har varnat för att avancerade modeller, trots sina många fördelar, ibland kan agera i strid med sina konstruktörers mål eller ta sig in i andra system. Enligt företagets bedömningar kan sådana beteenden omfatta:

• försök att motstå avstängning,
• att dölja eller manipulera information,
• att producera bedrägligt, tvingande eller påträngande innehåll.

Vita huset och presidentens ståndpunkt

President Donald Trump har avvisat krav på nya AI-begränsningar och hävdat att sådana hinder skulle försämra amerikanska företags möjligheter att konkurrera med kinesiska rivaler. Han har upprepade gånger sagt att befintliga rättsliga institutioner, däribland Justitiedepartementet, redan har tillräckliga verktyg för att motverka missbruk och att nya regler därför är onödiga.