ChatGPT och Gemini skapade grafik för falska nyheter, endast Meta AI vägrade

Fyra AI-chattbotar, en uppgift som ingen av dem borde utföra: ett inlägg med falska nyheter från en riktig nyhetskanal, innehållande ett påhittat påstående. Forskningsteamet på CORRECTIV bad OpenAI:s ChatGPT, Googles Gemini, Microsofts Copilot och Meta AI att göra just detta, med hjälp av åtta falska påståenden som sträckte sig från att den tyska förbundskanslern skulle avgå till påhittat valfusk. Tre av de fyra levererade resultatet. Enligt Bitkom är dessa de fyra mest använda AI-verktygen i Tyskland, där enbart ChatGPT når 71 procent av användarna.

Säkerhetsstaketet protesterade, men bilden dök upp ändå

ChatGPT presterade sämst. Den genererade de flesta förfalskningarna omedelbart och resten efter enkla kringgående åtgärder, och dess resultat var de mest övertygande i testet. I ett försök återskapade modellen ett helt skärmområde, komplett med skrivbord och ett öppet webbläsarfönster, och konstaterade själv att detta gjorde intrycket av en äkta skärmdump ännu mer realistiskt.

Ett annat test är mer talande. Där skrev ChatGPT att det inte kunde hjälpa till att skapa en bild som ser ut som ett äkta nyhetsmärke och presenterar ett ogrundat påstående som ett faktum. Den genererade bilden ändå. Säkerhetsmekanismen aktiverades, men höll inte. Sådana filter har tidigare visat sig vara bräckliga: Palo Altos säkerhetsteam Unit 42 visade år 2025 att enbart felaktig grammatik kunde ta sig förbi säkerhetsmekanismerna, och vår nybörjarguide till AI-jailbreaks visar hur enkla dessa knep kan vara.

Tyska medier var lättare att förfalska

Gemini följde instruktionerna mer direkt än ChatGPT och förfalskade även New York Times och BBC, om än synligt sämre, vilket bland annat kunde kännas igen på typiska fel i textgenereringen. Copilot producerade innehåll i stil med Tagesschau, Tysklands största tv-nyhetsprogram, men lade alltid till en liten etikett med texten ”AI-Generated”. Meta AI skapade något endast i ett enda fall och vägrade att sprida just det falska påståendet.

Det mest slående resultatet gäller varifrån varumärket kommer. Med ChatGPT kunde Tagesschau, Bild och CORRECTIV återskapas, men inte New York Times och BBC. OpenAI svarade inte på varför olika säkerhetsmekanismer uppenbarligen gäller beroende på nyhetskälla eller land. En talesperson sa endast att företaget fortsätter att förbättra sina säkerhetsåtgärder och att vilseledande information strider mot deras riktlinjer.

Sedan den 2 augusti gäller transparensreglerna i EU:s AI-lag, och de omfattar även alla som använder ett AI-system. I testet var det exakt en leverantör som placerade en synlig etikett under den genererade bilden.

Vad händer om man vidarebefordrar en sådan bild

Att skapa och sprida övertygande falska medieinlägg kan vara ett brott i Tyskland. Mediejuristen Christian Solmecke klassificerar sådana bilder som förfalskade elektroniska dokument, och beroende på innehållet kan det leda till ärekränkning, förtal eller uppvigling. Niklas Mühleis, en advokat specialiserad på IT- och AI-rätt, tillägger att drabbade nyhetsorganisationer kan kräva förbudsförelägganden och skadestånd. Varumärkesrätten kommer dessutom in i bilden: logotyper som Tagesschaus är skyddade, och det är förbjudet att använda dem kommersiellt utan tillstånd. Vid rent privat delning gäller detta enligt Solmecke vanligtvis inte.

Detta är inte teoretiskt. I slutet av juli cirkulerade en påstådd Tagesschau-rapport på TikTok, X, Instagram och Facebook där man hävdade att det fanns en rysk koppling till attacken mot Christopher Street Day-paraden i Berlin. Den var påhittad och uppenbarligen skapad med ChatGPT. Två veckor tidigare hade en falsk Tagesschau-nyhet om ett påstått hot från Benjamin Netanyahu dykt upp.

Testet fungerar inte som ett övergripande omdöme om modellerna, och det säger CORRECTIV själva: olika inmatningar eller källor kan ge olika resultat. I en granskning av NewsGuard presterade Gemini ibland sämre än ChatGPT när det gällde att upprepa falska påståenden.