MSI lanserar en ny arbetsstationsdator med otroliga 496 GB RAM-minne och en 72-kärnig processor

De som har riktigt, riktigt djupa fickor och ett öga för lokala LLM:er kommer att glädjas åt att MSI har lanserat en ny AI-arbetsstation, WS300, som drivs av Nvidias GB300 Grace Blackwell Ultra-chip.

GB300-chipet har en Nvidia Grace-CPU med hela 72 ARM-baserade Neoverse V2-kärnor och en Nvidia Blackwell Ultra-GPU. Sammantaget har systemet hela 748 GB koherent minne.

Dessutom är Grace-processorn kopplad till hela 496 GB LPDDR5X-RAM, medan Blackwell Ultra-grafikprocessorn har hela 252 GB HBM3e-VRAM med en otrolig bandbredd på 7,1 TB/sek. 

De som av någon anledning inte är nöjda med GPU:ns prestanda kan även ansluta ett extra NVIDIA RTX Pro Blackwell-grafikkort via datorns PCIe-utbyggnadsplats.

För den som är nyfiken hävdar Nvidia att plattformen klarar upp till 20 petaflops AI-beräkningsprestanda (FP4), vilket bör räcka för att stödja modeller med upp till 1 biljon parametrar utan att de behöver delas upp på flera system. 

Arbetsstationsdatorn MSI WS300 DGX Station har även stöd för Nvidia ConnectX-8 SuperNIC, vilket möjliggör nätverkshastigheter på upp till 800 Gbps. För dem som har inte bara en utan två DGX-stationer kommer det ovannämnda nätverkskortet väl till pass för att kombinera beräkningskraften. Slutligen sköts lagringen via två M.2-kortplatser.

Det är oklart exakt hur dyr MSI WS300 kommer att bli, men med tanke på de specifikationer som erbjuds är det mer än säkert att den kommer att kosta en liten förmögenhet. Mot bakgrund av de senaste händelserna skulle ett pris på nära 100 000 dollar inte vara någon överraskning.

För oss övriga vanliga dödliga med något mindre plånböcker kan mini-PC:ar med AMD Strix Halo-teknik vara en bra utgångspunkt för lokala LLM:er, till exempel GMKtec Evo X2, som för närvarande finns tillgänglig för 2 199 dollar på Amazon.