Hur falska uppgifter i sökresultat kan skapa panik online

Under några nerviga minuter på onsdagen berättade en enkel Google-sökning en chockerande historia: Sam Altman, VD för OpenAI, hade avlidit. Sociala flöden fylldes med skärmdumpar. Frågor spred sig snabbare än fakta.

När en offentlig uppgift spårar ur

Användare på X och Reddit märkte det felaktiga dödsmeddelandet i Googles kunskapspanel, informationsrutan som ligger ovanför många sökresultat. Google sade senare att det slutade visa påståendet och att ändringen inte gjordes manuellt av företaget. Istället pekade sökjätten på en djupare sårbarhet: när offentliga källor manipuleras kan dessa falska signaler kaskadera in i sökresultaten.

En tydlig måltavla var Wikipedia, det fria uppslagsverket som många sökmotorer och läsare förlitar sig på. Redigeringshistoriken för Altmans sida visade ovanlig aktivitet på onsdagen, 22 redigeringar den dagen efter endast fem redigeringar under flera tidigare dagar. Klockan 09:47 UTC dök en redigering upp som falskeligen hävdade att Altman blivit mördad och hade avlidit samma dag. Den specifika raden korrigerades klockan 10:29 UTC, men ytterligare vandalism följde, inklusive påståenden om hans utbildning och till och med ett namnbyte. Volontärer återställde slutligen sidan till ett korrekt tillstånd.

Wikimedia Foundation bekräftade för Business Insider att onsdagens redigeringar identifierades och rullades tillbaka inom en tidsram på en till 43 minuter. Volontärer flaggade vandalismen, utfärdade varningar och satte artikeln under semiskydd. Under denna begränsning kan endast konton som är minst fyra dagar gamla och som har minst 10 tidigare redigeringar göra ändringar, en grundläggande spärr för att bromsa massredigeringar från helt nya konton.

Wikipedia är en frekvent och synlig källa för Googles kunskapspaneler, men det är inte den enda. Google sammanställer information från hundratals offentliga källor över webben. Företaget sade att användare kan rapportera felaktig information och att det manuellt kommer att ta bort innehåll som bryter mot dess riktlinjer när man blir medveten om det. Ändå betonade Google att illvilliga redigeringar i offentliga källor kan påverka vad som visas i sökresultaten.

Så vad är den större bilden? Några punkter är tydliga. För det första arbetar volontärredaktörer och sajtens skydd ofta snabbt för att åtgärda uppenbar vandalism. För det andra kan även kort exponering för falska påståenden på stora plattformar spridas vida och förstärkas av automatiska system. Och för det tredje beror systemet som levererar omedelbara svar, kunskapspaneler och snabba fakta, på ett mosaikartat offentligt datamaterial där varje del är sårbar på sitt sätt.

Förtroendet för onlinefakta är delvis tekniskt och delvis socialt. Maskiner fogar ihop bitarna. Människor bevakar fogarna. När någon av parterna sviktar kan resultatet bli förvirrande och ibland skrämmande. Denna händelse rättades till. Men det är en påminnelse: i en uppkopplad värld kan några illvilliga knapptryckningar spela ut i rubriker innan verifiering hinner ikapp.