Huawei: Kinas AI-utveckling och risker jämfört med USA

Eric Xu, Huaweis roterande styrelseordförande, sade att Kinas utvecklare av artificiell intelligens kanske ännu inte har nått en nivå där de möter de säkerhetsrisker som ledande amerikanska företag har rapporterat. Vid Huaweis årliga Connect-konferens i Shanghai sade han att företagen bör fortsätta utveckla kraftfullare modeller, samtidigt som de balanserar innovation mot riskhantering.

Xu sade till reportrar: ”Om man tittar på de stora leverantörerna av AI-modeller i USA, så är det kanske bara de själva som vet vilken kapacitetsnivå deras modeller befinner sig på, eftersom de har enorm beräkningskraft.” Han tillade: ”Det är möjligt att de AI-risker som de kan känna av eller uppfatta är sådana som människor eller leverantörer av AI-modeller i Kina inte kan uppleva.” Hans kommentarer belyste skillnaden i kapacitet och exponering för mer avancerade säkerhetsproblem kopplade till tillgänglig beräkningskraft.

Amerikanska säkerhetsfarhågor och åtgärder

Xus kommentarer kom samtidigt som oron för AI-säkerhet har ökat i USA. Ledande utvecklare och forskare har varnat för att allt mer autonoma system kan kringgå skyddsåtgärder eller bli svåra att kontrollera. OpenAI uppgav den här veckan att bolaget regelbundet kommer att rapportera oväntat eller obehörigt beteende i sina modeller. Anthropics vd har uppmanat till att bromsa utvecklingen så att säkerhetsmekanismerna hinner ikapp.

I Kina har kraven på att bromsa utvecklingen kritiserats hårt av forskare och statliga medier. De har hävdat att en avsiktlig inbromsning av utvecklingen av toppmodeller skulle kunna bidra till att bevara amerikanska företags teknologiska försprång. Vissa kinesiska kommentatorer har beskrivit förslag om att sakta ner utvecklingen som ett försök att begränsa konkurrenter som ligger efter de ledande amerikanska laboratorierna, snarare än som en ren reaktion på säkerhetsfarhågor.

Kinas strategi för avancerad AI

Peking ser avancerad AI som en kraftfull teknik som kan hanteras samtidigt som utveckling och utrullning fortsätter i hög takt. Den kinesiska regeringen tar fram obligatoriska standarder, säkerhetsbedömningar och andra skyddsåtgärder för att hantera risker som autonoma agenter som kringgår kontroller eller angriper externa system. Tjänstemän förbereder också en nationell obligatorisk standard för säkerheten hos AI-agenter.