När ChatGPTs bildverktyg hittar på kusliga bilder nu

En enda tweet förvandlade ett rutinexperiment till ett märkligt litet internetmysterium. En användare på X skrev att de instruerat ChatGPT:s bildverktyg att "återskapa det bifogade fotot", men det fanns inget bifogat foto. Modellen tvekade inte. Den uppfann ett.

Resultatet? Konstiga, obehagliga bilder som ser ut som om någon riktat en kamera mot en febersyn. Ansikten förvrids. Bakgrunder växer ut i omöjliga texturer. Användare kallade dem kusliga, ibland direkt mardrömslika. Korta kommandon. Vilda resultat.

Det du ser är ett klassiskt fall av AI-hallucination, men i bildform. När en modell saknar nödvändig input kan den ändå skapa innehåll genom att luta sig mot statistiska mönster och interna kartor över hur bilder brukar se ut. Systemet fyller i luckor i stället för att säga "jag har inte den filen". Resultatet kan vara kreativt, eller så kan det vara fel på sätt som känns overkliga.

Är detta ett fel i bildgenereringskedjan, eller bara en underlig tolkning av ett tillåtande prompt? Det är svårt att säga. Beteendet kan bero på hur verktyget tolkar instruktioner som hänvisar till en bilaga, eller på intern reservlogik som försöker vara hjälpsam när data saknas. Hur som helst belyser händelsen ett mer allmänt problem: modeller som prioriterar produktion framför epistemisk återhållsamhet.

Folk har debatterat och delat exempel online och krävt tydligare skyddsåtgärder. Utvecklare skulle kunna tvinga fram uttryckliga kontroller för saknade indata, eller få systemet att ställa följdfrågor när en nödvändig fil inte tillhandahållits. Små ändringar i prompthanteringen skulle förhindra att modellen fabricerar bilder utan grund i verkligheten.

När en AI hittar på det den inte har, är felet inte bara tekniskt, det är ett designval vi kan åtgärda.

Oavsett om detta visar sig vara en åtgärdbar bugg eller en påminnelse om gränserna för dagens generativa system, är samtalet värdefullt. Vem bestämmer vad en AI får hitta på? Och vem rättar till det när de uppfunna bilderna kommer lite för nära en digital mardröm?