Varning för WhatsApp-bedrägeri: AI:n kontrollerar endast främlingar, inte dina kontakter

Den 12 augusti publicerade Meta en teknisk översikt över Scam Alert, en ny funktion för WhatsApp. Den är utformad för att varna användare om bedrägerimeddelanden innan någon faller för dem. Verifieringsprocessen sker helt och hållet på användarens telefon.

När funktionen är aktiverad laddar WhatsApp ner en liten AI-modell till enheten. Denna modell analyserar inkommande meddelanden och jämför dem med mönster från rapporterade bedrägerier, det vill säga konversationstrådar och formuleringar som är typiska för kända bedrägerier. Inget meddelandeinnehåll lämnar telefonen i detta syfte. End-to-end-kryptering, där endast avsändaren och mottagaren ser klartexten, förblir intakt.

Endast mottagaren ser varningen

Om modellen upptäcker ett troligt bedrägeriförsök visas en avisering direkt i chatten. Avsändaren får ingen avisering. Därifrån kan användaren blockera avsändaren, anmäla denne eller helt enkelt fortsätta konversationen. WhatsApp rapporterar inte automatiskt något till Meta. Detta sker endast om användaren aktivt trycker på ”Anmäl”.

Endast meddelanden från avsändare som inte finns i adressboken kontrolleras

Detta är begränsningen, och den anges i Metas egen beskrivning. Modellen klassificerar uteslutande meddelanden från avsändare som inte är sparade i användarens kontakter. Meddelanden från personer som redan finns i adressboken kontrolleras inte.

Det innebär att, ironiskt nog, just den typ av bedrägeri som fungerar bäst faller utanför. Om en väns eller släktings WhatsApp-konto kapas kommer bedrägerimeddelandet från ett riktigt, välbekant konto. Scam Alert säger ingenting i sådana fall. Fallet med en falsk app som kapar WhatsApp-konton visade hur en sådan kapning går till. Till och med det chockerande samtalet med en klonad röst kringgår denna kontroll eftersom det inte går via WhatsApp alls.

Markera det som pålitligt en gång, så ser du aldrig en varning igen

Om du tror att en varning är falsk kan du markera chatten som pålitlig. Varningen försvinner då permanent för den kontakten. Det är praktiskt, men det är också en svag punkt: det är precis den typen av beslut du fattar under press när en skicklig bedragare redan har etablerat en konversation. Den som markerar chatten på detta sätt kan också frivilligt skicka in de fem senaste mottagna meddelandena till WhatsApp.

Byggt för verifierbarhet

När det gäller transparens går Meta längre än vanligt. Varje modellversion registreras i ett offentligt register tillsammans med sin kontrollsumma innan den tas i bruk. Signaturen kommer från Cloudflare; Meta har inte den nyckel som krävs för detta. Modellvikterna publiceras så att forskare kan verifiera om modellen verkligen endast upptäcker bedrägerier. Användarna kan själva hitta en logg under ”Konto” > ”Begär information” > ”Aktivitet för bedrägerivarningar” som visar vilka meddelanden som kontrollerades och vilken modellversion som kördes vid tillfället.

Statistik över hur ofta varningar utfärdades och hur användarna reagerade bearbetas i isolerade datormiljöer. Innan Meta får tillgång till uppgifterna aggregeras och anonymiseras de så att inga slutsatser kan dras om enskilda användare.

Den är inte tillgänglig ännu

Scam Alert körs för närvarande som en del av en begränsad betaversion parallellt med Metas bug bounty-program. Företaget har inte meddelat något datum för den fullständiga lanseringen eller vilka länder tjänsten kommer att vara tillgänglig i. Hittills har inget uttalande gjorts angående Tyskland. Tills dess gäller den gamla regeln: Om du får en begäran om pengar eller ett påstått nytt telefonnummer, kontakta personen i fråga via en annan kanal, helst genom att ringa det gamla numret. Om du vill veta hur snabbt ett konto kan komprometteras även utan lösenord, läs rapporten om den stulna sessionscookien.