Varför språkmodeller inte ersätter mänsklig genialitet

Föreställ dig Albert Einstein ensam med ett tankeexperiment. Han föreställer sig själv i en förseglad hiss som fritt faller genom rymden, och från den tysta inre bilden utvinner han de ekvationer som omskriver fysiken. Det ögonblicket, ren intuition, sinnesföreställning, ett språng med nästan inga data, är den typ av kreativt hopp som nuvarande språkmodeller har svårt att efterlikna.

Varför ett hav av text inte motsvarar en levd värld

DeepMind-forskaren Tom Zahavy uttryckte det krasst i en nylig analys med titeln 'språkmodeller kan inte hoppa'. Hans argument delar upp tänkandet i tre lägen: induktion, deduktion och hypotesgenerering. Moderna modeller utmärker sig i det första. De komprimerar berg av mönster och kan förutsäga nästa mening med kuslig noggrannhet. Avancerade system hanterar även deduktion hyfsat; automatiserade resonemangsverktyg, inklusive projekt som AlphaProof, visar att maskiner kan följa logiska kedjor när regler ges.

Men när det gäller hypotesgenerering, handlingen att föreställa sig en ny ram utifrån nästan ingen empirisk input, snubblar maskinerna. Varför? För att de saknar en kropp i världen och saknar den sinnliga intuition som människor använder för att skapa kausala samband. Du kan inte härleda Einsteins ursprungliga premisser enbart genom att analysera befintliga texter. Hans insikt växte fram ur kroppsliga metaforer och sinnliga tankeexperiment, inte från statistiskt mönsterjämförande över litteratur.

Vissa tänkare, som Jürgen Schmidhuber, beskrev en gång vetenskaplig upptäckt som en extrem form av datakomprimering. DeepMind ifrågasätter den ståndpunkten. Artikeln pekar på att revolutionerande teorier ofta uppstår i datafattiga sammanhang, beroende av kontrafaktiska scenarier och levande fantasifull syntes. Språkmodeller, tränade på retrospektiva mönster, uppfinner sällan nya ontologier som omformar hur världen förstås.

Det får praktiska konsekvenser. Nuvarande AI-verktyg för kodning och automatiserad upptäckt förblir begränsade av fördefinierade ramar. De kan optimera inom en låda. De har svårt att rita om själva lådan. Och ingen mängd extra beräkningskraft, större datacenter eller tätare träning kommer automatiskt att ge den sorts kausala intuition som ligger till grund för radikala vetenskapliga genombrott.

Vad innebär detta för forskning och industri? Det omdefinierar förväntningarna. Språkmodeller är kraftfulla samarbetspartners för mönsterintensiva uppgifter, utformning, förfining av hypoteser och utforskande av permutationer. De förstärker, snarare än ersätter, den mänskliga gnistan som formulerar frågorna och de konceptuella verktygen. Med andra ord: utmärkta för att skapa stödstrukturer. Inte ännu förberedda för att initiera revolutioner.

Beräkningsskala ersätter inte kroppslig insikt; mänsklig fantasi står fortfarande för hoppet.

Det finns en öppen väg framåt. Hybridmetoder som kopplar modeller till sensorer, experiment och interaktiva miljöer skulle kunna minska gapet. Men tills maskiner utvecklar former av situationsbundna förståelser och kausal intuition bortom text, kommer de djärvaste vetenskapliga idéerna att förbli människans domän.