Moonshot AI släpper Kimi K2: En gratis, smartare konkurrent till DeepSeek

Moonshot AI har släppt Kimi K2, en stor språkmodell för artificiell intelligens, gratis under en modifierad MIT-licens. LLM rankades omedelbart bland de tio mest kraftfulla AI-modellerna i världen på LMSys textarenas topplista. Kimi K2 fick högre poäng än DeepSeek, en annan gratis AI som fick världsomspännande uppmärksamhet för sin kraft och gratis licensiering när den släpptes i slutet av 2024 släpptes i slutet av 2024.

Kimi K2 är en MoE-modell (mixture-of-experts) med en triljon parametrar (1T) med ett 128K kontextfönster och 384 experter som använder en delmängd med 32 miljarder aktiverade parametrar. AI:n utvecklades för användning i AI-agenter som specialiserar sig på autonom problemlösning, resonemang och verktygsanvändning, vilket gör att den kan användas för att lösa komplexa uppgifter och söka svar på affärsproblem på hög nivå.

På grund av begränsad träningsdata för verktygsanvändning i verkligheten tränades Kimi K2 med en kombination av verkliga och simulerade miljöer. Dessutom använde AI-utbildningen en självbedömningsmekanism som gjorde det möjligt för den att själv avgöra om de slutförda uppgifterna utfördes på ett adekvat sätt eller inte under utbildningen. MuonClip-optimeraren utvecklades för att lösa problemet med stabiliteten i träningen som fanns i Muon optimizer for neural networksvilket gör att Kimi K2 snabbt och framgångsrikt kan förtränas på 15,5 T tokens.

Läsare som är intresserade av att utveckla Kimi K2 för affärsbruk behöver minst 1 TB lagringsutrymme för modellen och ett kluster med minst 16 Nvidia H20 /H200 GPU: er innan ladda ner det fritt från Hugging Face. Hemanvändare kan enkelt köra destillerade versioner av DeepSeek på Nvidia GPU:er med 12 GB eller mer minne, som det här kortet på Amazon, medan de väntar på destillerade versioner av Kimi K2.

Konsumenter kan chatta med Kimi-chattbotten gratis häroch mjukvaruutvecklare kan betala för att använda Kimi genom dess API här.