Kina inför lag om märkning av AI-innehåll på alla större sociala plattformar

Kina har implementerat en ny lag som kräver att sociala medieplattformar märker AI-genererat innehåll, och som trädde i kraft på måndagen. Stora plattformar aktiverade sina efterlevnadsfunktioner samma dag. Pekings åtgärd är kopplad till CAC:s "Qinglang"-kampanj 2025, som syftar till att bekämpa felaktig information och skärpa tillsynen av AI.

All AI-text, bild, ljud och video måste bära tydliga synliga etiketter som anger att den är AI-genererad, samtidigt som den också bär implicita identifierare som digitala vattenstämplar eller metadata. Lagen har utarbetats av Cyberspace Administration of China i samarbete med tillsynsmyndigheter för industrin, allmän säkerhet och radio- och tv-sändningar. Den utfärdades i mars och har nu trätt i kraft.

Den sociala medieplattformen WeChat (även känd som Weixin), med cirka 1,4 miljarder aktiva användare varje månad, kräver att skaparna deklarerar AI-genererat innehåll, och plattformen förbjuder all manipulering av etiketter. En annan plattform, kallad Douyin (känd som TikTok på västra halvklotet), med cirka 766,5 miljoner aktiva användare varje månad, kräver synliga etiketter på varje AI-genererat inlägg och verifierar källor genom metadata. Weibo har lagt till ett nytt rapporteringsalternativ för "omärkt AI-innehåll", där Xiaohongshu (även känd som rednote) själv lägger till etiketter om användarna inte gör det. Flera tjänster påminner också användarna om att bedöma omärkt innehåll försiktigt och att rapportera det, samtidigt som de förbehåller sig rätten att ta bort felmärkta inlägg.

CAC flaggar för påföljder för användning av AI för att sprida felaktig information eller manipulera den allmänna opinionen, med särskild granskning av betalda kommentatorer på nätet. Lagen syftar till att bekämpa felaktig information, upphovsrättsintrång och bedrägerier på nätet. Fokusområden för detta är bland annat vilseledande marknadsföring i appar med korta videofilmer och starkare skydd för minderåriga. Detta uppmuntrar till transparens på nätet, även om det inte är helt uteslutet att man undviker att använda etiketter.

Kina är en av de första stora marknaderna som inför denna lag om obligatorisk märkning av AI-innehåll, och liknande åtgärder är på gång på andra håll i världen. Internet Engineering Task Force har föreslagit en AI-metadatahuvud, med C2PA-referenser som levereras på enheter som Google Pixel 10. Det är viktigt att notera att användare fortfarande ibland kan kringgå skyddsåtgärder.