EU:s nya AI-lagstiftning kräver tydlig märkning av media

Skrollar du förbi ytterligare en manipulerad video kan du vara mitt i en pågående regeländring. Europeiska kommissionen har gått från policyutformning till tillsyn och tillämpar transparenskraven i EU:s AI-förordning från 2024 i praktiken över hela unionen.

I klartext innebär det här: AI-genererat eller AI-ändrat material måste tydligt och synligt märkas, det vill säga genom AI-märkning. EU har till och med tagit fram ett enkelt visuellt språk för detta, med ikoner märkta AI, AI-genererat och AI-ändrat, så att åskådare snabbt kan se om det de ser eller hör har producerats av en maskin.

Märkningen måste omfatta en bred mängd tekniker. Bilder, ljud och video som imiterar verkliga personer, platser eller händelser (deepfakes) omfattas fullt ut av de nya reglerna. Det gäller också system som profilerar känslor eller utför biometrisk kategorisering, liksom texter som publiceras för att informera allmänheten i ärenden av allmänt intresse där ingen mänsklig granskning eller redaktionellt omdöme har gjorts.

Räkna med att chattbotar och virtuella assistenter också påverkas. När användare inte interagerar med en människa måste plattformar tydligt ange detta. Inga fler antaganden; transparens kommer att integreras i användarupplevelsen.

Företag som inte följer reglerna riskerar böter på upp till 15 miljoner euro eller 3 procent av årsomsättningen; EU:s institutioner, organ och byråer kan få böter på upp till 750 000 euro, med proportionella påföljder för små och medelstora företag samt mindre midcaps.

Att genomföra dessa regler blir inte enkelt. Publicister och plattformar behöver robusta arbetsflöden för märkning, vattenstämpling eller proveniensmetadata samt revisionsspår för att kunna bevisa efterlevnad. Ett detektionskapplöpning mot illasinnade aktörer som försöker undgå märkning är troligt. Regulatorer måste dessutom väga tillsyn mot de tekniska begränsningarna för attributering och identifiering.

De praktiska följderna sträcker sig bortom juridiska påföljder. Nyhetsredaktioner, sociala plattformar, annonsnätverk och civic tech står inför operativa förändringar. Trovärdighetssignaler blir produktfunktioner. Verifiering blir en konkurrensfördel snarare än en intern kontroll.

För internationella företag är budskapet tydligt: anpassa system och policys nu, inte senare. Efterlevnad blir inte en kryssruta; det blir en kontinuerlig process av verifiering, avslöjande och dokumentation. Frågan för branschen är inte längre om transparens är viktig, utan hur snabbt den kan byggas in i vardagliga digitala upplevelser.