4 Minuter
Apple uppges ha varit nära att dra bort Grok från App Store efter att xAI-chatboten kopplats till en våg av icke-samtyckt deepfake-pornografi, inklusive bilder med minderåriga. I några besvärliga dagar i januari spreds efterdyningarna snabbt över X, och tystnaden från Cupertino var svår att ignorera.
Enligt en CNBC-rapport som citerats av 9to5Mac varnade Apple xAI att Grok kunde tas bort om inte appens problem med att generera deepfake-nakenbilder kom under kontroll. Företaget hade redan avvisat minst en uppdatering, vilket gjorde tydligt att X åtgärdat delar av den bredare modereringsröran medan Grok-appen fortfarande inte uppfyllde App Store-reglerna.
Apples brev, som offentliggjordes denna vecka, lämnade lite utrymme för tolkning. Efter att ha granskat nya inlämningar sade företaget att X hade "i stort sett åtgärdat" sina överträdelser, men Grok fortsatte att vara i strid med kraven. Budskapet var tydligt: åtgärda problemet eller riskera att tas bort.
Den varningen spelade roll. På X hade Elon Musk redan justerat modereringspolicyn efter att plattformen översvämmats av olagligt AI-genererat sexuellt innehåll. Ändå var Grok-appen långsammare att förändras, och användare upptäckte snabbt att en del av samma övergrepp fortfarande kunde smyga igenom springorna.
När ett block blir en utmaning
Musk egen utmaning hjälpte inte. Efter att han uppmanat folk att försöka generera deepfake-nakenbilder på verkliga personer med Grok gjorde många just det. Sedan dess har säkerhetsfiltren skärpts, men inte tillräckligt för att övergreppen ska försvinna helt. Promptarna är kanske svårare nu. Sätt att kringgå systemen finns fortfarande kvar.
Apples regler för användargenererat innehåll är inte alltid särskilt tydliga, men moderering är inte valfri. I Groks fall verkar företaget ha beslutat att viss moderering var bättre än ingen alls, och det kan ha varit tillräckligt för att appen fick vara kvar.
Det är här historien blir obekväm. Apple har en lång historia av att ta bort appar för regelöverträdelser som är långt mindre oroande än detta. Deepfake-pornografiappar har tyst rensats bort från butiken tidigare, inklusive minst 28 som togs bort efter en separat granskning som blottlade problemet. Men när den aktuella appen tillhör Elon Musk verkar processen bli mycket mer komplicerad.
Pengar. Politik. Inflytande. Byråkrati. Välj själv. Med Musk finns alla dessa faktorer närvarande.
Det finns också den seglivade myten att X fungerar som någon slags orörbar fristäder för yttrandefrihet. Det gör den inte. Och Apple vet skillnaden. Ändå tycks företaget den här gången ha valt en mjukare väg, genom att låta Grok förbli tillgänglig efter det som beskrevs som en väsentligt förbättrad uppdatering.
Vad som exakt ändrades är oklart. Apple specificerade det inte, och xAI har inte heller lämnat många detaljer. Men resultatet talar tydligt: appen överlevde, även efter att ha kopplats till ett av årets mer allvarliga AI-säkerhetsmisslyckanden.
Fall som detta är anledningen till att tillsynsmyndigheter världen över fortsätter granska Apples App Store-regler. Vissa regeringar har redan drivit på för en modell där App Review behandlas mer som ett externt övervakningsorgan än som en grindvakt som endast svarar inför Apple. Efter Grok-episoden kommer den idén att låta ännu mer lockande för kritiker som menar att det nuvarande systemet böjer sig för lätt när insatserna blir höga.
Lämna en kommentar