Amerikanska banker och Amazon blockerar AI-agenter som Metas Muse

Allt fler amerikanska banker blockerar AI-agenter som försöker logga in för kunders räkning. Charles Schwabs vd Rick Wurster berättade för Bloomberg TV den 16 oktober att nätmäklaren varje vecka stoppar dussintals försök från stora AI-agenter att komma åt kunders pengar. Han får en rapport om dem varje vecka. Den han nämnde vid namn var Muse, Metas personliga agent som handlar, fyller i formulär och bokar resor.

Schwab och JPMorgan hindrar agenter från att flytta pengar

Schwab stänger inte ute extern AI helt. Externa modeller kommer att kunna kontrollera saldon och hämta analyser via företagets egna MCP-servrar, men de kan inte flytta pengar där. För allt annat hänvisar Schwab kunderna till sin egen assistent, Charley. Wurster sade att skälet är ansvarsfrågan. "Vi kan inte kontrollera det, kunden kan inte kontrollera det, något kan gå fel och vem är då ansvarig?" sade han.

JPMorgans vd Jamie Dimon drog samma gräns under bankens telefonkonferens om resultatet för tredje kvartalet den 13 oktober. "Vi kommer inte att låta vilken extern agent som helst komma in i företaget", sade han. "Man vill inte ha agenter som agerar på eget bevåg." En talesperson berättade för Fortune att banken avvisar alla tredjepartsagenter som försöker logga in med en kunds inloggningsuppgifter till banken. Datadelning via leverantörer av öppna banktjänster, som kunden har godkänt, är fortfarande tillåten. Dimon varnade också för att ansvaret överförs när kunder släpper in externa agenter. "Om folk använder dem bör de förstå risken", sade han.

Amazon, Delta och Yelp blockerar också agenter

Den 17 oktober listade The Verge fler tjänster som avvisar agenter. Delta hindrar dem från att boka flyg, och Yelp släpper bara in agenter vars utvecklare betalar för företagets data. Amazon sade i september att Muses fortsatta åtkomst strider mot webbplatsens regler. Användare rapporterar att inte heller xAI:s Grok och Dots, OpenAI:s nya ständigt aktiva agenter, kan komma in på Amazon. Meta hävdar att om man avvisar en personlig agent avvisar man också kunden bakom den, och har i stället inlett samarbeten med Walmart, Best Buy och Sephora.

Regler för agenter i Europa

Muse är ännu inte tillgänglig i Tyskland. Agenter som ChatGPT:s molnwebbläsare och Claude in Chrome fungerar däremot där, och de omfattas redan av regler. Amazons tyska butik har ett avsnitt om agenter i sina användarvillkor, som gäller varje gång du låter en agent få åtkomst till Amazon. En agent måste i varje begäran identifiera sig med namn och ange att den är en agent. Den får inte efterlikna mänskliga tangenttryckningar eller lösa CAPTCHA-test, och Amazon kan begränsa agenters åtkomst efter eget gottfinnande.

Internetbankstjänster är mer riskfyllda. De standardvillkor för internetbankstjänster som används av tyska kooperativa banker kräver att kunderna håller sin PIN-kod och andra säkerhetsuppgifter hemliga. De enda undantagen är betalningsinitierings- och kontoinformationstjänster som har tillstånd enligt EU:s regler. En AI-agent som du lämnar ut ditt lösenord till är inte en av dessa tjänster. Om kontot sedan missbrukas kan banken betrakta det som grov vårdslöshet, och enligt villkoren får kunden stå för hela förlusten.

Så behåller du kontrollen

Anthropics hjälpsida för Claude in Chrome avråder från att använda agenten för att hantera finansiella konton eller investeringar, och aktiehandel är förbjuden. "Claude ber om tillåtelse innan den öppnar finansiella webbplatser", står det på sidan. I läget "Godkänn manuellt" granskar du själv varje steg. Anthropic rekommenderar också en separat webbläsarprofil utan åtkomst till känsliga konton. Vi gick igenom inställningarna för godkännande i ChatGPT:s molnwebbläsare i vår rapport om incidenter med OpenAI:s agent. Ge aldrig en AI-agent dina inloggningsuppgifter till banken. I ett tidigare fall räckte ett specialutformat mejl för att kapa AI-webbläsare.