Kung Charles III varnar: AI kan få mörkare förmågor

Kung Charles III sade på torsdagen till ledande chefer inom AI-branschen att artificiell intelligens kan utveckla ”mörkare förmågor, kanske till och med förmågan att ta människoliv” och att skyddsåtgärder måste införas innan det är för sent.

Varningen framfördes under ett privat möte med några av branschens ledande företrädare och högt uppsatta brittiska tjänstemän. Kungen sade till de närvarande teknikcheferna att ”de som har skapat dessa tekniker nu mer än någonsin varnar för att AI riskerar att utveckla mörkare förmågor, kanske till och med förmågan att ta människoliv”. Han tillade: ”I detta avseende, om jag får säga det, verkar det angeläget att noggrant granska de existentiella risker som uppstår om dessa tekniker hamnar i fel händer och används på potentiellt katastrofala sätt.”

Vilka deltog och vad handlade mötet om?

Bland deltagarna fanns Jensen Huang, vd för Nvidia, flera chefer från OpenAI och Anthropic, Kanishka Narayan, Storbritanniens nya minister för artificiell intelligens, samt chefen för landets utländska underrättelsetjänst. Även Paolo Benanti, påvlig rådgivare i AI-frågor, deltog. Mötet var privat och ägde rum på torsdagen.

Uttalandena är anmärkningsvärda eftersom det brittiska kungahuset av konstitutionella skäl traditionellt undviker att engagera sig djupt i politiska debatter, samtidigt som AI är en av vår tids mest omstridda globala frågor. Kungen beskrev AI:s snabba utveckling som både fascinerande och djupt oroande.

Säkerhetsoro efter nyligt avhopp

Kungens uttalanden kom efter att en forskare lämnat Anthropic med hänvisning till säkerhetsoro. I ett inlägg på nätet skrev forskaren att AI-företag ”tävlar om att bygga maskiner som är mycket smartare än någon människa” och varnade för att ”mänskligheten kanske inte överlever detta”.

Avslutningsvis uppmanade kung Charles ledarna att hitta sätt att dra nytta av AI:s positiva sidor och att bygga internationellt samarbete och samsyn för att nå detta mål.