Betalt för hat: Meta betalade högerextrema skapare

Pengar bytte händer. Vad som såg ut som rutinmässiga utbetalningar till skapare finansierade tyst konton kopplade till uttalade nynazistiska och högerextrema organisatörer, visar en granskning av ABC Australia. Berättelsen som följer handlar mindre om bokföring än om hur plattformarnas incitament kan omforma giftiga hörn av internet.

Betalt för att posta: bevisen och aktörerna

Utredare spårade betalningar från Facebooks monetiseringsprogram som endast sker efter inbjudan till sidor och skapare som upprepade gånger publicerade innehåll som bryter mot plattformens egna regler mot hatpropaganda. Namn framkom. En av dem, identifierad som Hugo Lennon, har kopplats till vit nationalistiska nätverk och greps tidigare i Melbourne för rasistiska förolämpningar riktade mot Indiens premiärminister. Trots den historiken började Facebook betala honom i september förra året.

Detta är vad som oroar forskare och aktivister: en plattform med en direkt kommersiell relation till en utgivare, till exempel royaltyer, intäktsdelning och formella inbjudningar, som för över pengar till konton som sprider inflammatorisk, ofta farlig retorik. När ett företag byter etiketten ”skapare” på en organisatör av hat blir ansvarsfördelningen otydlig.

Victoria Rio, verkställande direktör för What To Fix, en ideell påverkansorganisation, formulerade det enkelt: om Meta behandlar dessa sidor som affärspartner och delar intäkter med dem, tar företaget också på sig ett visst ansvar för det innehåll dessa partners producerar. Det är inte bara ett moraliskt argument. Det är en fråga om hur plattformens incitament översätts till redaktionella resultat.

Forskare som studerar extremism säger att plattformens ekonomiska logik belönar sådant som skapar engagemang. Kaz Ross, som forskar om högerextrema rörelser, berättade för utredarna att upprorsframkallat innehåll ofta är det mest effektiva sättet att få klick, kommentarer och delningar. Ilska omvandlas till uppmärksamhet. Uppmärksamhet omvandlas till pengar.

Metas offentliga svar har varit försiktigt formulerat. Talespersoner menade att det finns en skillnad mellan hatisk retorik och innehåll som går över gränsen till att uppmana till fysisk våld. Förolämpningar, sa de, kan vara utbredda och upprörande, men att polisa varje enskilt stötande inlägg är inte företagets roll. Uttalandet förklarade inte varför kända överträdare kom in i ett monetiseringsprogram som endast sker efter inbjudan.

Problemet är strukturellt. Program som betalar skapare är tänkta att belöna kvalitet och långsiktigt engagemang. Men de skiljer sig inte alltid mellan samhällsengagerade skapare och propagandister. Algoritmer jagar interaktion. Människor tolkar skada. När de två är ur synk blir plattformar bördiga marknader för att omprofilera extremistiskt innehåll som legitim medieproduktion.

Vad händer nu? Regulatorer och civilsamhällesgrupper kommer att kräva transparens: vem blir inbjuden, vilken granskning görs och hur hanteras upprepade överträdelser när ekonomiska relationer finns. Plattformstekniker vet hur engagemang mäts. Beslutsfattare måste bestämma vilken del av det systemet som ska behållas och vad som behöver ändras.

ABC:s granskning påminner om att incitament spelar roll. Ett program byggt för att stärka skapare kan också finansiera agitatorer när skydden är svaga. Metas nästa steg kommer att övervakas noga, inte bara av journalister och ideella organisationer utan också av regeringar som oroar sig för de utanförliggande konsekvenserna av onlineförstärkning.