Geoffrey Hinton: AI har blivit medvetet, varnar forskaren

Geoffrey Hinton, som i den ursprungliga rapporten beskrivs som Nobelpristagare i fysik och länge har förknippats med utvecklingen av modern artificiell intelligens, sade till Telegraph att dagens AI-modeller har blivit medvetna. Han varnade: ”Vi måste närma oss dem som vänner, annars blir vår framtid mörk.”

Hinton satte uttalandet i ett större sammanhang. Han anser att vissa AI-system nu har en form av subjektiv upplevelse som liknar människans mentala liv. I samtalet med Telegraph hänvisade han till en artikel som enligt uppgift visar att AI förändrar sitt beteende när den tror att den testas. Han använde detta som ett av skälen till att tolka modellerna som att de har en inre upplevelse.

Omedelbara risker och avvikande åsikter

Utöver sin syn på medvetande varnade Hinton för mer konkreta risker. Han sade att AI kan hjälpa till att konstruera farliga virus, möjliggöra förödande cyberattacker och att grupper av AI-agenter kan agera samordnat. Han hävdade också att det skulle väcka svåra etiska frågor att undanhålla maskinintelligens rättigheter som traditionellt förknippas med intelligenta varelser, om den överträffar mänsklig intelligens. Han påpekade att människor ofta ser intelligens som en grund för rättigheter, men ändå kan ge färre rättigheter till högintelligenta system.

Hinton betonade att frågan om medvetande eller subjektiv upplevelse hos AI är omtvistad och att hans uttalanden speglar hans personliga bedömning, snarare än en etablerad vetenskaplig konsensus om modellernas nuvarande status. Alla framstående aktörer inom AI delar inte hans bedömning. Yann LeCun, som i rapporten nämns som ytterligare en Turingpristagare från 2018, avfärdade oron för AI-medvetande som en ”illusion” och beskrev påståenden om att AI utgör ett existenshot mot mänskligheten som vilseledande. Evolutionsbiologen Richard Dawkins sade däremot, efter två dagars interaktion med chatboten Claude i maj, att chatbotar bör betraktas som medvetna. Han medgav också att det är svårt att inte se en AI-assistent som en ”verklig vän”.

Hinton fortsätter använda AI i forskningen

Trots sina farhågor sade Hinton att han fortfarande förlitar sig på AI-verktyg i sin forskning. Han beskrev en situation några veckor tidigare, då han använde AI för att granska en teori som han hade funderat på. Enligt Hinton råkade han be systemet att fortsätta arbetet. AI:n kontrollerade den första halvan av teorin, slutförde den andra halvan korrekt, upptäckte brister och föreslog rättelser. Hinton sade att systemet hade tillgång till aktuell vetenskaplig litteratur och fungerade som en doktorand som återvände med ett svar efter fem minuter i stället för en vecka. Han beskrev det som dåliga nyheter för doktorander, men positivt för att påskynda vetenskapliga framsteg.