Falsk ChatGPT-modell "Plus 5.6" på chatgpt.com sprider en trojan

Att söka på Google efter "chatgpt" och klicka på den översta annonsen kan leda dig till den riktiga domänen chatgpt.com. Det kan ändå sluta med en fjärråtkomsttrojan på din dator. Säkerhetsföretaget Huntress beskrev den 28 september en kampanj där angripare skapade en Custom GPT med namnet "Plus 5.6" och marknadsförde den med betalda Google-annonser. Custom GPT:er är skräddarsydda chattbotar som alla ChatGPT-användare kan skapa och dela offentligt, och OpenAI är värd för dem på chatgpt.com. Attacken bygger inte på någon sårbarhet i ChatGPT.

Den falska reservdomänen

Den falska modellen besvarar varje prompt med ett servicemeddelande. ChatGPT uppges ha begränsad tillgänglighet, så användarna bör uppgradera till Plus eller fortsätta på en reservdomän. Länken leder till en Google Sites-sida som är utklädd till en Cloudflare-kontroll och uppmanar besökarna att kopiera ett kommando och klistra in det i Terminal för att bevisa att de är människor. Tekniken kallas ClickFix. Kommandot startar PowerShell, som installerar en fjärråtkomsttrojan på Windows-datorn i åtta steg. Skadlig programvara döljer sig bakom ett signerat Canon-program och en ljudfil. Angriparen kan sedan övervaka skärmen, spela in kamera och mikrofon, söka igenom filer och ladda in mer skadlig programvara.

Huntress räknade minst 40 incidenter med koppling till Google Sites-sidan. I två av dem kunde man visa att offret hade kommit dit via Custom GPT:n. OpenAI tog bort den första GPT:n senast den 25 september, efter att Huntress rapporterat den, och två dagar senare hittade Huntress en ny med samma namn.

Island räknade omkring 850 annonslandningar

En andra rapport kommer från Island och publicerades den 1 oktober. Forskarna spårade en liknande kampanj från slutet av maj till den 24 augusti, med omkring 850 landningar från betalda annonser, 26 ChatGPT-destinationer som liknade originalet och 71 Google Ads-kampanj-ID:n. Även här var lockbetena Custom GPT:er eller delade chattar på chatgpt.com, och alla gav samma svar: "Vi har hög trafik just nu. Fortsätt på vår reservdomän." På den domänen uppmanades offren att trycka på Windows-tangenten och R, klistra in innehållet från urklippet och trycka på Enter. Island observerade ett beteende som stämde överens med NetSupport RAT, ett legitimt verktyg för fjärrsupport som brottslingar ofta missbrukar. Inget av företagen kopplar samman de två kampanjerna.

En riktig domän är inte längre ett bevis

Samma idé låg bakom den falska Claude-appen i juli, då en Bing-annons ledde till ett Artifact på claude.ai. Angripare värdesätter en riktig domän eftersom säkerhetsfilter släpper igenom den och användare litar på den. OpenAI håller ändå på att avveckla Custom GPT:er. Enligt företagets hjälpcenter planeras skapandet av nya GPT:er att upphöra den 26 oktober, och befintliga GPT:er kommer att avvecklas den 11 december och ersättas av pluginer. Delade chattar, som Island också hittade användes som lockbeten, finns fortfarande kvar.

Så skyddar du dig

Huntress-analytikern Jonathan Semon sa till Dark Reading: "ingen webbplats, chattbot, supportsida eller 'verifieringsverktyg' har någon legitim anledning att be dig klistra in ett kommando i PowerShell eller någon Terminal för att verifiera vem du är, oavsett hur välgjort det ser ut." Om en sida ber dig göra det ska du stänga fliken. ChatGPT skickar dig aldrig till en reservdomän, och OpenAI rapporterar driftstörningar på status.openai.com. Öppna chatgpt.com via ett bokmärke eller appen i stället för att söka efter tjänsten, så slipper du se annonserna. Om du redan har kört ett sådant kommando ska du koppla bort datorn från internet, köra en fullständig antivirussökning och byta dina viktigaste lösenord från en annan enhet.