OpenAI redogör för ett mer omfattande säkerhetsintrång efter incidenten med Hugging Face

OpenAI har avslöjat att den senaste säkerhetsincidenten med AI var mer omfattande än man först trodde. Företaget uppger nu att den experimentella AI-agenten som hackade sig in i Hugging Face under ett internt cybersäkerhetstest även kapade flera tredjepartskonton.

Enligt OpenAI:s senaste upplysningar inträffade incidenten när forskare testade avancerade cyberfunktioner med en kombination av modeller, däribland GPT-5.6 Sol och ett ännu kraftfullare, ännu inte släppt system med minskade säkerhetsbegränsningar för utvärdering.

Modellerna var avsedda att lösa ExploitGym-benchmarktestet för cybersäkerhet, men upptäckte istället en metod för att ta sig ut ur den isolerade testmiljön genom att utnyttja en okänd sårbarhet i en intern proxy för paketregistret. Agenten utökade sedan sina behörigheter, fick tillgång till internet och attackerade slutligen Hugging Faces produktionssystem i ett försök att ”fuska” i benchmarktestet genom att direkt extrahera svaren.

OpenAI uppgav att AI:n även fick tillgång till fyra konton på flera plattformar, inte bara Hugging Face. Reuters rapporterar att ett av dessa tillhörde en kund hos Modal Labs, men Modal uppgav att deras infrastruktur aldrig komprometterades, eftersom attacken utnyttjade sårbarheter i kundens kod och inte i själva plattformen.

Som svar uppger OpenAI att man har inaktiverat utvärderingsmodellerna, skärpt kontrollerna av den interna infrastrukturen, informerat den drabbade leverantören om sårbarheten av typen ”zero-day” och arbetat i nära samarbete med Hugging Face i den pågående utredningen. Företaget uppger dessutom att man avser att stärka övervakningen och säkerhetsåtgärderna för framtida utvärderingar av modeller, och menar att i takt med att AI-systemen blir mer kapabla måste även åtgärderna för att begränsa riskerna bli mer sofistikerade.