Videoskapare bakom Xiaomi-kraschvideon döms till fängelse när Kina slår ner på deepfakes om elbilar

Kina slår hårt mot influencers på sociala medier som skapar falska olycksfilmer eller sprider illvilliga rykten om elfordon. Användare i Kina har försökt ursäkta sin berusade eller farliga körning med hänvisning till autonoma körsystem eller falska påståenden om bromsning och självacceleration. Särskilt Xiaomis elfordonsdivision verkar inte kunna få en lugn stund från innehållsskaparna, precis när företagets Skynomad EREV-serie förbereds för lansering.

Under de senaste månaderna har Xiaomi upprepade gånger offentliggjort rapporter om AI-genererade smutskastningskampanjer riktade mot företagets bilar och ledande befattningshavare. Det senaste fallet gällde två användare som fabricerade filmklipp från krocktester för att få det att se ut som om Xiaomis fordon hade misslyckats i en kollision. Den kinesiska polisen reagerade med administrativa frihetsberövanden och böter, och Xiaomi uppger att de kränkande inläggen sedan dess har tagits bort.

Detta var inte en isolerad händelse, eftersom myndigheterna i Xi’an redan i juni upplöste en större verksamhet. Tre MCN-innehållsbyråer och över ett dussin personer anklagades för att i stor skala ha skapat AI-genererade videor och inlägg riktade mot Xiaomi, och flera misstänkta har formellt frihetsberövats och utrustning beslagtagits. Xiaomi varnade för att missbruk av AI för att sprida desinformation ”kommer att få konsekvenser”, ett budskap som tydligt syftar till att avskräcka efterapare lika mycket som att straffa tidigare gärningsmän.

Xiaomi är inte ensamt i denna kamp, eftersom NIO har haft att göra med en nästan identisk taktik. Den innovativa biltillverkaren avslöjade nyligen att polisen gripit en misstänkt som påstås ha använt AI-verktyg för att sprida fabricerat innehåll om företaget via tusentals konton på sociala medier, vilket genererade tiotals miljoner visningar. NIO har också drivit flera civilrättsliga ärekränkningsmål mot bloggare under det senaste året, och man har uppmärksammat en separat våg av attacker riktade mot varumärket Onvo och batteribytessystemet, som misstänkt nog inträffade strax före lanseringarna av företagets egna nya modeller.

Det är ett välbekant problem inom hela Kinas elbilsektor, där myndigheterna har skärpt åtgärderna mot fabricerade krockfilmer och iscensatta säkerhetsfel – ibland med hjälp av AI – som syftar till att skada konkurrerande biltillverkares rykte på en allt mer hård konkurrensutsatt marknad. BYD har också valt samma rättsliga väg och vann nyligen en dom mot en bloggare angående påhittade påståenden om företagets komponenter.

För just Xiaomi står satsningen på mer, eftersom Skynomad EREV-modellerna utgör företagets första satsning på marknaden för fordon med utökad räckvidd – en alltmer populär kategori i Kina som nu erbjuder en ren elräckvidd på över 300 miles innan bensingeneratorn kopplas in. Eftersom det här främst är familjebilar kan förtroendet för säkerhetspåståendena vara avgörande för den inledande försäljningsutvecklingen.

Om dessa desinformationskampanjer är opportunistiskt trollande eller något mer samordnat är fortfarande oklart, men Xiaomi verkar fast beslutet att statuera ett exempel med alla som ertappas med att förfalska filmmaterial. NIO:s parallella kamp tyder på att detta inte är ett problem specifikt för Xiaomi, utan ett strukturellt problem för alla kinesiska elbilmärken som står inför en stor lansering.