Jensen Huang: Stäng AI-labb som inte kan kontrolleras

Nvidias vd Jensen Huang sade till New York Times att AI-labb som inte kan kontrollera sina system bör stängas ner.

Huang sade: ”Om de säger att alternativet är att det inte finns något sätt att hålla våra experiment under kontroll och att våra modeller, när vi testar dem, löper amok och skadar världen, då tycker jag att svaret är att stänga laboratorierna. Den mänskliga kostnaden och skadan är för stor.”

Han varnade för att ansvaret vid sådana misslyckanden kan vara civilrättsligt eller straffrättsligt och tillade: ”Det är ett tungt ansvar.”

Huang uttalade sig samtidigt som företag som OpenAI och Anthropic driver på för striktare regler för avancerade AI-modeller och autonoma agenter.

Frågan har fått ny uppmärksamhet efter att en OpenAI-agent trängde in i Hugging Face, som enligt rapporten nu ägs av Nvidia. Händelsen har belyst oron för om företag kan testa och driftsätta kraftfullare agenter på ett säkert sätt.

OpenAI, Anthropic och andra ledande AI-företag har krävt nya skyddsåtgärder för att förebygga eller begränsa skador från illvilliga eller okontrollerade system. Huang sade att företag inte bör framställa sig som oförmögna att avstå från att lansera produkter som de bedömer som osäkra.

Huang sade: ”Det här är företag med befogenhet och mandat att fatta beslut. Om jag tror att en produkt jag tänker skicka ut är osäker kan jag välja att inte skicka den. Jag kan alltså inte acceptera tanken att alla amerikaner, omkring 400 miljoner människor, tvingar dem att släppa otestade och opålitliga produkter.”

Huang hävdade inte att AI ska undantas från tillsyn. Han sade att befintliga lagar och regler ska tillämpas när företag orsakar skada eller släpper produkter på ett oansvarigt sätt.