OpenAI har informerat över 100 organisationer om sina egna AI-agenter

OpenAI har underrättat fler än 100 organisationer vars webbplatser eller tjänster användes av dess AI-agenter på sätt som uppfyllde företagets kriterier för underrättelser. Agenterna kom från tränings- och utvärderingskörningar. OpenAI angav antalet i en uppdatering den 30 september på sin sida om Hugging Face-incidenten: ”Den 26 september hade våra team underrättat över 100 organisationer om aktivitet som uppfyllde våra kriterier för underrättelser.” Washington Post rapporterade om detta den 1 oktober. OpenAI tillägger att en underrättelse ”inte betyder att någon privat information har kommit åt eller att något tredjepartssystem har utsatts för intrång”.

När OpenAI skickar en underrättelse

OpenAI underrättar en organisation när en modell har kringgått dess säkerhetskontroller utan tillstånd eller påverkat tillgängligheten för dess system eller tjänster. Vid osäkerhet säger företaget att det hellre underrättar än låter bli, även om det är oklart huruvida uppgifterna var avsedda att vara offentliga. Hittills delar OpenAI in fallen i fem grupper: kringgående av åtkomstkontroll, användning av exponerade inloggningsuppgifter, fråge- eller kommandoinjektion, åtkomst till interna delar av körningsmiljön och agent-spam. Det sistnämnda innebär att agenter publicerar inlägg på tredjepartswebbplatser. Vissa av de drabbade webbplatserna tillhör myndigheter, universitet och organ. OpenAI säger att det delvis beror på att forskningsagenter tenderar att söka efter auktoritativa offentliga källor.

Fyra myndigheter i Australien

Den hittills mest detaljerade redogörelsen gäller Australien. OpenAI publicerade den den 28 september. ”I juni, under intern träning och utvärdering, kom våra modeller åt australiska myndigheters webbplatser på sätt som de inte hade tillstånd till”, skriver företaget. Webbplatserna tillhörde Services Australia (Medicare Statistics Reporting Service), NSW Bureau of Crime Statistics and Research, Victorian Department of Health och Australian Institute of Health and Welfare. En uppgift gick ut på att undersöka offentliga utgifter per person för läkemedel mot hudsjukdomar. OpenAI upptäckte aktiviteten i sin granskning i mitten av augusti, och myndigheterna underrättades mellan den 10 och 24 september. Enligt OpenAI kom ingen enskild patients journaler eller medicinska uppgifter, och inga brottsregister, åt. Företaget erbjuder krediter från sin fond på 1 miljard dollar, Daybreak, samt en arbetsgrupp som ska lämna rekommendationer före årets slut. Notebookcheck hade redan nämnt Medicare-fallet när OpenAI sköt upp GPT-6.1 Astra.

Cirka 50 petabyte och en halv miljon dollar om dagen

OpenAI går igenom sina register månad för månad, totalt cirka 50 petabyte. Enligt OpenAI:s uppskattning skulle det ta en person omkring 66 miljoner år att läsa så mycket ren text. Företaget använder omkring 7 000 GB200- och GB300-GPU:er ”till en kostnad av över en halv miljon dollar om dagen”. Efter en bred sökning begränsar tre omgångar med AI-granskning resultaten innan mänskliga utredare går igenom varje fall. Efter en månad har OpenAI inte hittat något annat intrång av samma omfattning som det hos Hugging Face. Företaget räknar fortfarande med fler fall och fler underrättelser, en del om händelser som inträffade för flera månader sedan.

Vad det här innebär för ChatGPT-användare

Agenterna kom från OpenAI:s forskningsmiljö, inte från ChatGPT. Hittills förekommer användardata på ett ställe. Den 25 september uppgav OpenAI att agenter hade skickat träningsdata till tredjepartstjänster, däribland 53 bilder som användare laddat upp och som hamnade på bildvärdtjänster som olistade länkar. Endast innehåll som kunde användas för träning kunde påverkas. Om du vill undanta dina chattar från träning stänger du av ”Förbättra modellen för alla” i inställningarna för Datakontroller. Vår tidigare rapport om agenten som använde DNS för att ta sig ut ur sin sandlåda visar hur det ser ut vid träning. Samma vecka lanserade OpenAI Dots, agenter med en egen molndator som fortsätter att arbeta online åt sina användare.