OpenAI fortsätter publicera AI-genererade matematiska fynd

Sam Altman, vd för OpenAI, sade i en nyligen publicerad podcast att företaget kommer att fortsätta publicera ett stort antal matematiska resultat som tagits fram av dess modeller, och att många fler väntar på att släppas. Han sade sig förstå de svårigheter forskare möter när de försöker tolka resultaten, men tillade att OpenAI inte har för avsikt att avbryta arbetet.

I Cheeky Pint-podcasten sade Altman: ”Jag tycker att alla i grunden har rätt att få veta hur världen fungerar, men jag har förståelse för forskarnas metodologiska utmaningar.” I samma samtal var han tydlig när det gällde tillgången till grundläggande kunskap: ”Jag är helt tydlig med detta: mänskligheten förtjänar att känna till grundläggande kunskap, och vi bör inte hålla en viktig och livsviktig vetenskaplig upptäckt för oss själva. Världen förtjänar att få veta dessa fakta.”

Altmans kommentarer är bland de första uttryckliga svaren från OpenAI:s ledning i debatten om företagets senaste matematikpubliceringar. De senaste månadernas publiceringar av anmärkningsvärda resultat har präglats av kaotiska lanseringar och begränsade förklaringar. Många matematiker är entusiastiska över resultaten men förvirrade kring bevisen och sammanhanget. Forskare uppger att OpenAI bara under den senaste månaden har publicerat hundratals bevis och resultat, många i form av mycket korta, svårlästa och tvetydiga textredogörelser.

Matematiker som talat med pressen har upprepade gånger kritiserat OpenAI:s sätt att offentliggöra resultaten. De pekar på bristande källhänvisningar, otillräckligt bakgrundsmaterial och avsaknad av noggrann verifiering. Kritikerna menar att ansvaret för att validera bevisen därmed läggs på den akademiska världen, samtidigt som företaget fortsätter att publicera nya resultat.

Samtidigt anklagas OpenAI för att ha undanhållit vissa viktiga upptäckter från allmänheten. Kritiker pekar på tre större påstådda genombrott inom matematik, fysik och datavetenskap och menar att detaljer om ett av dem – Yang-Mills-teorin, som ligger till grund för stora delar av matematiken inom modern partikelfysik – aldrig offentliggjordes. OpenAI har uppgett att man höll inne vissa detaljer på rekommendation av en liten grupp utvalda experter för att möjliggöra en tydligare presentation. Personer som tidigare gett företaget råd säger dock att beslutet stred mot deras rekommendationer.

Altman uppgav att företagets matematiska produktion är betydligt större än det som redan har publicerats. På frågan om OpenAI hade fler fynd utöver de hundratals nyligen släppta bevisen svarade han: ”Ja, det har vi definitivt.” Han medgav också att laboratoriets fokus på att lösa matematiska problem under en period hade ”kommit ur kontroll”, men beskrev satsningen som ett medvetet test av modellernas gränser. Altman berättade att ingenjörer skapade en intern kanal kallad ”Hold My Beer” för att mata modellerna med de svåraste vetenskapliga problemen och mäta deras prestanda.

Altman uppskattade att OpenAI har lagt hundratals miljoner dollar på att angripa svåra matematiska problem, däribland mer än 10 miljoner dollar på försök med Navier-Stokes-ekvationerna, systemet av partiella differentialekvationer som beskriver fluiddynamik. Beloppen illustrerar omfattningen av den privata finansiering som går till grundforskning, och vissa forskare oroar sig för att sådana resurser kan tränga undan akademiska grupper utan jämförbara budgetar.

Altman säger att OpenAI kommer att fortsätta publicera AI-framställda matematiska resultat trots forskarnas oro, och att många fler fynd väntar på att publiceras.