Anthropic varnar för större risker med open source AI

Anthropics chef för internationella frågor hävdade vid ett EU-övervakat toppmöte i Dublin att öppna AI-modeller per definition innebär större risker än företagets proprietära system.

Guillaume Perrencins varning och Anthropics hållning

Guillaume Perrencin gjorde uttalandet vid ett statligt lett toppmöte om artificiell intelligens i Dublin. Han sade att öppna modeller – modeller där kod, arkitektur och viktfiler publiceras så att användare kan ladda ner, köra eller ändra dem – per definition medför betydligt större risker. Perrencin ställde detta mot tidigare uttalanden från Anthropics vd Dario Amodei, som har sagt att modeller med öppna viktfiler utan farliga förmågor bör betraktas som allmänna nyttigheter.

Nya öppna modeller och säkerhetstester

Uttalandena kommer samtidigt som konkurrensen hårdnar och nya säkerhetsutvärderingar publiceras. Det europeiska företaget Mistral lanserade förra veckan Large 4, kallad Le Chonk, en modell som företaget uppger har en biljon parametrar, har tränats i Europa och fokuserar på datasuveränitet. Mistral har ännu inte släppt modellens viktfiler. För närvarande finns den endast tillgänglig via Mistrals API, medan företaget planerar att publicera viktfilerna den 27 oktober.

Oberoende och institutionella utvärderingar som togs upp under toppmötet visade på varierande säkerhetsbeteende bland öppna modeller. En bedömning från SaferAI slog fast att den kinesiska modellen GLM-5.2 inte avböjde några uppgifter kopplade till illvilliga cyberattacker eller biologiska förfrågningar med dubbla användningsområden. Claude från Anthropic avvisade däremot enligt rapporter så många förfrågningar av säkerhetsskäl att benchmark-testet inte kunde slutföras. Forskning från Anthropics Frontier Red Team visade också att mindre modeller kunde replikeras på billiga Android-TV-boxar. Samtliga modeller i det testet, inklusive Gemma4 och GLM-5.2, var öppna modeller.

Prissänkning och regionala intressen i Dublin

Perrencin meddelade också en prisförändring för Claude: den typiska kostnaden för Claude Opus 5.5 har sjunkit med 40 procent jämfört med den föregående versionen. Han tillskriver minskningen en officiell prissänkning på 20 procent i kombination med lägre tokenförbrukning i den nya versionen.

Perrencins uttalanden gjordes i Dublin på Irland. Flera publikationer och civilsamhällesgrupper har pekat ut Dublin som en kontroversiell plats, eftersom Irlands låga bolagsskatter länge har lockat stora teknikföretag och genererat betydande intäkter för staten. Grupperna menar att de ekonomiska fördelarna kan komplicera Irlands neutralitet i AI-regleringen. Anthropic har omfattande kommersiella intressen i Europa: företaget beskriver Europa som sin snabbast växande marknad, har öppnat sitt första europeiska kontor i Dublin och förbereder sig enligt uppgifter för en börsintroduktion med ett påstått värde på 965 miljarder dollar.