DeepSeek V3.2 Exp AI LLM med fri och öppen källkod lanseras med lägre beräkningskostnader, vilket hjälper företag att spara ännu mer pengar

DeepSeek har släppt sin senaste storspråkiga modell för artificiell intelligens, DeepSeek-V3.2-Exp, med betydligt lägre beräkningskostnader. Denna optimering hjälper företag som använder företagets API i sina appar att spara pengar samtidigt som de får tillgång till en smart AI, som har rankats på 11:e plats bland de mest kraftfulla LLM:er som släppts i världen.

Detta uppnåddes genom att använda en ny DeepSeek Sparse Attention (DSA)-design för att fokusera på att indexera tokens inte med varannan token, som är fallet med traditionella AI-transformatorer, utan bara med de mest relevanta. Detta gör att AI:n kan bearbeta inmatad text snabbare upp till sitt 128K-token-fönster med mindre minnesanvändning.

Apputvecklare som får tillgång till DeepSeek V3.2 Exp via dess publika API kan förvänta sig att betala över 50% mindre än för den tidigare versionen, samtidigt som de bibehåller jämförbar prestanda i standardiserade AI-benchmarks.

400 GB AI LLM kan laddas ner gratis från Hugging Face och köras lokalt på kraftfulla datorer. Läsare som gör det kommer att behöva ett system med flera Nvidia H100/H200/H20 GPU:er eller en enda NVIDIA B200/GB200-server som minimum på grund av modellens krav på 1,5+ TB VRAM.

Läsare som vill köra DeepSeek v3.2 på hemdatorer måste vänta tills kvantiserade modeller släpps på Hugging Face, som den här för v3.1 av unslothoch ha en GPU med minst 24 GB minne, till exempel denna Nvidia 5090 på Amazon.