Nvidias vd Huang avfärdar påstådd AI-utrotning 2030 idag

Nvidias vd Jensen Huang avfärdade nyliga varningar om att artificiell intelligens kan leda till mänsklighetens utrotning. Han sade att vissa ledare för AI-företag kan skrämma allmänheten av andra skäl. I en intervju med CBS Sunday Morning bedömde han sannolikheten för att världen ska gå under på grund av AI före 2030 till noll procent.

Huang avfärdar existentiella AI-risker

Huang sade att oron kring AI-säkerhet i stort är legitim, men att varningar som beskriver tekniken som ett hot mot mänsklighetens existens saknar vetenskaplig grund. Han medgav att AI kan ha ”fruktansvärda användningsområden” och måste utvecklas ”säkert”, men hävdade att det är felaktigt att framställa 2030 som världens undergång. ”Hur du än beskriver det kommer 2030 inte att vara världens undergång. Sannolikheten för att det är världens slut är noll procent”, sade han.

Ny branschdebatt och krav på reglering

Huangs uttalanden kom mitt i en förnyad offentlig debatt om AI-risker. Tidigare denna månad sade en tidigare forskare vid Anthropic att många anställda på ledande AI-företag ”verkligen tror att denna teknik kan döda oss alla innan decenniets slut”. Uttalandet bidrog till krav från branschpersoner på långsammare utveckling och starkare säkerhetsåtgärder.

• Dario Amodei, vd för Anthropic, uppmanade till att bromsa forskningen, införa nationella testprogram och stärka säkerhetsåtgärderna.
• Sam Altman, vd för OpenAI, stödde en inbromsning av forskningen, och företaget uppmanade regeringar att införa obligatoriska säkerhetskrav.
• En tidigare forskare vid Anthropic varnade för att många anställda tror att AI kan utgöra ett existentiellt hot före decenniets slut.

Motiv, tillämpning av befintliga lagar och praktiska säkerhetsåtgärder

Huang föreslog att vissa branschledare kan överdriva den existentiella risken av politiska skäl eller för att dra till sig uppmärksamhet. Han hävdade också att de senaste kraven på mer reglering kan spegla försök att undvika konsekvenser för brott mot redan gällande regler, särskilt mot bakgrund av nyliga säkerhetsincidenter. ”Låt inte den här apokalyptiska berättelsen göra att någon undantas från de lagar som redan finns. De ber egentligen inte om fler lagar. De vill undantas från de lagar vi har”, sade han och tillade: ”Tillämpa först de befintliga lagarna.”

Huang rekommenderade att AI-säkerhet utvecklas enligt det praktiska, procedurmässiga arbetssätt som används inom kommersiell luftfart. När tekniken mognar, sade han, brukar ingenjörer flytta fokus från att enbart driftsätta systemen till att säkerställa säker drift genom verifiering, testning, granskning och standardisering. ”Gör det praktiska först, sedan kan vi prata om det teoretiska. Men prata inte om det teoretiska utan att först göra det praktiska”, sade han.