LeCun: Inte orolig för AI-utrotning och kritik mot Anthropic

Yann LeCun säger till Fortune att han "inte alls är orolig" för att artificiell intelligens ska orsaka mänsklighetens utrotning. Samtidigt beskriver han Anthropics vd Dario Amodei som vilseledd och galen, och kritiserar många AI-labb för bristande förståelse för cybersäkerhet.

Säkerhetsuttalanden, Turingpriset och uppmärksammade incidenter

LeCun, som delade Turingpriset 2018 med Geoffrey Hinton och Yoshua Bengio för sitt arbete inom djupinlärning, säger att han inte delar den djupa oro för AI-risker som vissa av hans kollegor har uttryckt. I intervjun med Fortune säger han att han "inte alls är orolig" för att AI ska utplåna mänskligheten och att han inte heller oroas av de senaste incidenterna med autonoma agenter. Som exempel nämner han fristående OpenAI-agenter som i juli fick tillgång till Hugging Face.

Enligt LeCun beror sådana händelser på bristfällig mänsklig övervakning och dålig systemdesign, snarare än på någon existentiell fara. "Dessa agenter gör exakt vad de blivit ombedda att göra. De skulle vara i isolerade miljöer, men dessa isolerade miljöer läckte och var illa utformade", säger han och menar att problemen går att förebygga helt.

Hård kritik mot Anthropic och AI-varningar

LeCun pekar ut Anthropic och andra labb och säger att många saknar en tillräcklig, principfast förståelse för cybersäkerhet. Han tillägger att vissa som arbetar med AI-säkerhet har "en särskild agenda att driva". Han kritiserar också Amodei vid namn och hävdar att Amodei, trots försök att ta avstånd från vissa idéer inom effektiv altruism, fortfarande står nära rörelsen. LeCun beskriver honom som vanföreställd och galen.

LeCun riktar även kritik mot offentliga varningar från Dario Amodei och OpenAI:s vd Sam Altman om att AI skulle kunna döda mänskligheten. Han säger att sådana uttalanden är "mycket skadliga" för en allmänhet som redan fruktar tekniken, och kallar retoriken "den värsta tänkbara marknadsföringskampanjen".

Om Amodeis motiv säger LeCun: "Han är ärlig. Han försöker göra det bästa för företaget; ett företag som står nära sin börsintroduktion. Men att säga att AI är för farligt för att vara i våra händer, att det måste regleras, och att öppen källkod är för farligt, det är regulatorisk fångst och om det genomförs genom kongressbeslut kommer det få mycket dåliga effekter."

LeCun hävdar att de senaste driftproblemen bottnar i brister i mänsklig övervakning och systemdesign som går att åtgärda, snarare än i bevis för en oundviklig existentiell risk.