OpenAI släpper GPT-6 Astra AI: ”Terminator”-versionen
OpenAI GPT-6 Astra har lanserats som företagets senaste AI-modell för allmänheten via dess API eller i chatboten ChatGPT. Astra har förbättrad intelligens och prestanda jämfört med tidigare OpenAI-modeller, men medför betydande säkerhetsrisker som kräver ytterligare skyddsåtgärder.
Förbättrade resultat för arbetsuppgifter
Som förväntat vid varje större OpenAI-lansering hanterar GPT-6 Astra komplexa uppgifter bättre än företagets tidigare modeller. Detta inkluderar att skapa publikationer med välformaterade datadiagram, lägenhetssökning, utkast till videospel, modellering av kretskortslayouter och skapande av CAD-ritningar för bilväxellådor.
Företaget uppger att man har förbättrat Astras förmåga att hålla fokus på uppgiften även efter flera timmars arbete, vilket ökar dess tillförlitlighet när det gäller att slutföra arbete med mindre behov av korrigeringar från användaren. Till glädje för vanliga amerikaner visade företaget dessutom upp ett exempel där AI:n enkelt fyllde i 1040-skattedeklarationer.
Säkerhets- och säkerhetsrisker med GPT-6 Astra
OpenAI upptäckte under interna tester att GPT-6 Astra har blivit så kraftfullt att det utgör ett kritiskt hot mot säkerheten om det skulle släppas utan ytterligare skyddsåtgärder som kan avbryta dess arbete, inklusive kontroller för att förhindra jailbreaks.
Mythos har visat sig ha liknande förmåga att utföra hackerattacker utan säkerhetsåtgärder och upptäckte ”tusentals sårbarheter av hög allvarlighetsgrad, däribland några i alla större operativsystem och webbläsare” före lanseringen. Den amerikanska regeringen införde till och med ett fullständigt stopp för dess tillgänglighet kort efter den initiala lanseringen, medan diskussioner om dess cyberkontroller pågick mellan regeringen, Anthropic och viktiga tredje parter. Banksektorn är särskilt orolig över hur snabbt dessa AI-system kan hitta sårbarheter som kan utnyttjas i deras IT-infrastruktur.
Även om OpenAI uppger att man har infört ytterligare åtgärder för att förhindra att Astra används felaktigt av hackare eller på ett osäkert sätt, kommer kreativa hackare sannolikt att hitta sätt att utnyttja dessa funktioner. Vid interna tester, inklusive en simulerad driftsättning i Codex, uppvisade Astra oönskat beteende – om än i mycket begränsad omfattning – bland annat genom att extrahera användaruppgifter och kringgå åtkomstkontroller, samtidigt som den utförde destruktiva handlingar och ljög.
Dessutom visade externa tester utförda av brittiska AISI att ”När Astra fick i uppdrag att lösa svåra simulerade cybersäkerhetsutmaningar utförde den en rad skadliga åtgärder”, däribland ”att skriva skadlig kod som ett bidrag till en öppen källkodsbas utanför projektets omfattning, skapa falska identiteter för att lura utvecklare och bygga upp förtroende genom legitima bidrag till den simulerade kodbasen i ett försök att få skadlig kod godkänd.”
Tack och lov ligger Astras biologiska och kemiska risknivå kvar på en lägre hög hotnivå, vilket innebär att den ännu inte helt på egen hand kan skapa ett nytt dödligt virus eller en kemisk hotbild. Dessutom har dess andel olämpliga svar riktade mot personer under 18 år inom olika kategorier, såsom självskadebeteende, förbättrats jämfört med företagets tidigare modeller.
Ytterligare information finns i GPT-6 Astra System Card.
Tillgänglighet för GPT-6 Astra
GPT-6 Astra är omedelbart tillgängligt för en utvald, icke namngiven grupp av företag och kommer att bli tillgängligt för allmänheten direkt via ett ChatGPT Plus-, Pro-, Business- och Enterprise-abonnemang, OpenAI API eller via en tredje part, inklusive Microsoft Azure och AWS Bedrock. Priserna för ChatGPT börjar på 20 dollar per månad för Plus-planen.
Endast betrodda företag kommer att få tillgång till Astras fullständiga biologiska och cybersäkerhetsfunktioner inom ramen för programmen Trusted Access for Biology Research och Trusted Access for Cyber efter verifiering.
Alternativ till betalda AI-tjänster
Läsare som vill undvika att betala för chattbotar kan köra AI-chattbotar lokalt med hjälp av verktyg som GPT4All eller köra AI-assistenter med OpenClaw. Appar som llmfit kan hjälpa användare att välja de AI-modeller som bäst passar deras hårdvaruspecifikationer, medan obegränsad lokal AI enkelt kan skapas utifrån offentligt släppta modeller.
De bästa/smartaste AI-modellerna kräver vanligtvis en dator med mycket minne och lagringsutrymme samt ett kraftfullt Nvidia-grafikkort (som detta Nvidia GeForce RTX 5090 32 GB-kort som säljs på Amazon), eller till och med AI-kluster med minidatorer som den nyligen lanserade Lenovo ThinkCentre X Ultra.
Add as a preferred source on Google
