Instagram går till attack mot AI-influencers som inte erkänner att de är falska

Instagram byter namn på sin etikett ”AI-skapare” till ”AI-genererad profil” och kommer att börja begränsa hur mycket icke-märkta AI-personligheter kan spridas om kontona bakom dem inte uppger att den person som visas inte är verklig.

Den ursprungliga etiketten, som infördes redan i maj, var frivillig och något vag, och gällde alla konton som regelbundet använde AI-verktyg oavsett om det fanns en verklig person bakom dem. Den nya etiketten är specifikt avsedd att markera profiler där den avbildade personen är helt AI-genererad snarare än enbart AI-assisterad, vilket täpper till en lucka som gjorde att helt syntetiska influencer-konton kunde smälta in bland verkliga kreatörer som bara använde AI som en del av sitt arbetsflöde.

Begränsad räckvidd för dem som inte följer reglerna

Enligt det nya systemet kommer konton som Instagram identifierar som omärkta AI-genererade profiler att få sin räckvidd begränsad, vilket innebär att icke-följare inte kommer att se deras inlägg visas i Explore, Reels eller andra rekommendationsytor. Skapare kan återställa räckvidden på ett av två sätt: genom att själva proaktivt tillämpa etiketten för AI-genererade profiler, eller genom att överklaga begränsningen om de anser att Instagrams detektering har gjort fel, något som företaget självt medger att dess system inte alltid får rätt.

Den nya märkningen fungerar separat från Metas befintliga ”AI-info”-system, som flaggar enskilda inlägg på Instagram, Facebook och Threads när tekniska markörer, som C2PA-metadata eller Googles SynthID-vattenstämpel, indikerar AI-inblandning, eller när en innehållsskapare själv uppger detta. Märkningen på profilnivå handlar specifikt om huruvida den person som visas i ett kontos inlägg, kommentarer och meddelanden är verklig eller AI-genererad.

För att tillgodose frustrerade användare

Instagram motiverade förändringen med en enkel frustration och sa att användare inte gillar att upptäcka i efterhand att en profil som verkade mänsklig hela tiden var AI-genererad. Hittills riktar sig policyn endast mot konton som utger sig för att vara en specifik påhittad person, inte mot den mycket större mängden konton som publicerar AI-genererat innehåll utan att låtsas vara en mänsklig influencer.

Helt AI-genererade karaktärer har blivit vanliga som inofficiella varumärkesinfluencers, där företag i allt högre grad använder syntetiska karaktärer för att marknadsföra produkter istället för att betala riktiga människor, och det finns för närvarande inga specifika regler som kräver att annonsörer ska uppge när så är fallet (via The Guardian). Huruvida den nya märkningen på ett meningsfullt sätt kommer att förändra denna praxis beror på hur konsekvent Instagrams detekteringssystem lyckas upptäcka konton som har alla skäl i världen att helt undvika märkningen.