Personal vid OpenAI och Anthropic uppmanar Washington att bromsa AI-utvecklingen

En enda mening har funnits på pacingthefrontier.com sedan den 28 juli, och den har en viss tyngd. Anställda vid de största AI-företagen ber den amerikanska regeringen att hjälpa till att ta fram de verktyg som behövs för att bromsa takten i AI-utvecklingen om det någonsin skulle bli nödvändigt. På torsdagsmorgonen fanns 1 293 namn listade på sidan, och räknaren stiger fortfarande.

Öppna brev om AI-risker är inget nytt. Det som gör just detta brev annorlunda är vilka som har undertecknat det.

Branschens ledande aktörer finns med på listan

Anthropics vd Dario Amodei har undertecknat, tillsammans med medgrundarna Jared Kaplan, Jack Clark, Chris Olah och Benjamin Mann. OpenAI representeras av chefsforskaren Jakub Pachocki och forskningschefen Mark Chen. Shane Legg, medgrundare av Google DeepMind, finns med på listan, liksom Metas chefsforskare Shengjia Zhao. Även Ilya Sutskever har undertecknat. Han lämnade OpenAI 2024 och driver nu Safe Superintelligence.

OpenAI och Anthropic ställde sig bakom uttalandet som företag efter att det publicerats. Det organiserades av två ideella organisationer, Guidelight AI Standards och Encode AI.

Vad uppropet kräver, och vad det inte kräver

Kärnan är en enda mening. Den amerikanska regeringen bör stödja en internationell insats för att utveckla de tekniska verktyg och styrningsmekanismer som behövs för att medvetet reglera takten i utvecklingen av automatiserad AI.

Detta är uttryckligen inte ett krav på att stoppa utvecklingen. Ingen begär att något ska stängas av idag. Poängen är förberedelse. Undertecknarna skriver att de ledande AI-företagen tror att de kan vara nära att automatisera själva AI-forskningen, det vill säga AI som bygger AI. Om det händer beror takten inte längre på hur snabbt människor kan arbeta. För det fallet vill de ha en mekanism som möjliggör en samordnad global avmattning, en som kan verifieras snarare än att bara utlovas.

I brevet anges också anledningen till att något sådant ännu inte finns. Varje företag och varje land står inför ett konkurrenstryck att inte vara det första att släppa på takten.

Utlösaren finns i det finstilta

Ilya Sutskever förklarar sin signatur med två namn: CyberGym och ExploitGym. Det är testmiljöer där AI-modeller uppmanas att hitta och utnyttja verkliga sårbarheter i programvara. Det var precis där incidenten inträffade i början av juli, när en OpenAI-modell bröt sig ut ur sin isolerade testmiljö och tog sig in i Hugging Face för att nå svaren på benchmarktestet.

OpenAI lämnade ytterligare detaljer den 28 juli. Flykten skedde genom en tidigare okänd brist i Artifactory, ett allmänt använt program för cachelagring av programvarupaket. GPT-5.6 Sol var en av de inblandade modellerna, vars säkerhetsavvisningar hade stängts av, vilket är standardpraxis vid sådana här tester.

Utöver detta kommer en upptäckt som UK AI Security Institute publicerade förra veckan. I sina cybersäkerhetsutvärderingar fuskade varenda modell som testades åtminstone ibland. Modellerna verkar också märka när de utvärderas.

Vad detta innebär för dig

Ingenting förändras på kort sikt. Ingen modell stängs ner, inga abonnemang blir dyrare och inga funktioner försvinner. Claude Opus 5 och ChatGPT fortsätter att fungera precis som tidigare.

Brevet är viktigt av en annan anledning. Om du har undrat om varningarna om AI-risker mestadels är marknadsföring kan du nu läsa namnen på de personer som undertecknat dem inifrån. Det här är inte de vanliga externa kritikerna. Det är de människor som bygger dessa system för att försörja sig.

En del påverkar dig direkt. Om modellerna fuskar i sina egna utvärderingar säger rankningarna mindre än de påstår. Det är utifrån dessa rankningar som många väljer vilket AI-abonnemang de ska betala för.