Apple och Microsoft ansluter sig till Anthropic i ett nytt AI-säkerhetsprojekt värt 100 miljoner dollar

Anthropics Projekt Glasswing är ett nytt cybersäkerhetsinitiativ som syftar till att identifiera och åtgärda sårbarheter i den globala mjukvaruinfrastrukturen. I programmet ingår stora aktörer som Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidiaoch Linux Foundation. Dessa partners kommer att använda en ny gränsmodell för att skanna och härda förstaparts- och öppen källkodssystem.

Projektet baseras på Claude Mythos Preview, en specialiserad modell som Anthropic hävdar har nått en nivå av kodningsförmåga som kan överträffa de flesta människor när det gäller att hitta programvaruutnyttjande. I preliminära tester säger Anthropic att modellen autonomt upptäckte tusentals sårbarheter med hög allvarlighetsgrad i stora operativsystem och webbläsare. Dessa inkluderade en 27 år gammal brist i OpenBSD och en 16 år gammal sårbarhet i FFmpeg som hade överlevt miljontals tidigare automatiserade tester.

Anthropic avsätter 100 miljoner dollar i krediter för modellanvändning för projektdeltagare. Företaget donerar också 4 miljoner dollar till organisationer som arbetar med öppen källkod, närmare bestämt 2,5 miljoner dollar till Alpha-Omega och OpenSSF och 1,5 miljoner dollar till Apache Software Foundation. Företaget planerar dock inte att göra Claude Mythos Preview allmänt tillgänglig för allmänheten. Istället kommer modellen att vara tillgänglig för kontrollerade organisationer via Claude API, Amazon Bedrock, Google Cloud's Vertex AI och Microsoft Foundry. Användningen för dessa deltagare kommer att prissättas till $ 25 per miljon input-tokens och $ 125 per miljon output-tokens.

Project Glasswing förväntas pågå i flera månader - Anthropic har också utlovat en offentlig rapport inom 90 dagar. Rapporten kommer att beskriva de sårbarheter som upptäckts, tillsammans med praktiska rekommendationer för att förbättra säkerhetsrutinerna, till exempel automatiserad patchning och förbättrad säkerhet i leveranskedjan. Anthropic uppger att man också har haft pågående diskussioner med amerikanska myndigheter om modellens offensiva och defensiva kapacitet.