Intel Arc Pro B70 prestanda: betydligt snabbare än Nvidias RTX 4000 Pro till halva priset och 33% mer VRAM
Intel lanserade igår Arc Pro B65 och B70 högpresterande GPU:er för arbetsstationer inriktade på AI LLM-utbildning / inferens utan att tillhandahålla specifik prestandainformation i det första pressmeddelandet. Några timmar senare släppte företaget prestandadiagram som jämför B70-modellen med Nvidias RTX 4000 Pro GPU:er, som är några år gamla vid det här laget. Intel hävdar att jämförelsen fortfarande är giltig med tanke på att B70-kortet kostar under 1 000 dollar, och Team Blue backar upp det med imponerande påståenden om den totala prestandan.
Även utan att titta på prestandadiagrammen, som kan vara korrekta eller inte på äkta Intel-vis, höjer sig Arc B70 GPU omedelbart över Nvidia-konkurrensen med sin ökade VRAM-kapacitet (32 GB jämfört med 24 GB) och lanseringspriset som börjar på $949 (jämfört med $1 800). Visserligen är VRAM endast 19 Gbps GDDR6 med 256-bitars buss och 608 GB/s bandbredd, men den ökade kapaciteten hjälper åtminstone till att träna och inferera på större modeller.
Med den överlägsna VRAM-kapaciteten kan B70 skryta med ett 2,2x större kontextfönster jämfört med RTX 4000 Pro-kortet. Intels bild visar att B70 stöder kontextlängder på upp till 93K tokens jämfört med RTX 4000 Pro som får slut på minne vid upp till 42K tokens när det används med Llama 3.1 8b BF16-modell.
Parallella multiagentflöden som körs på Ministral Instruct 2410 8B (BF16)-modellen levererar 85% högre token-genomströmning för flera användare eller förfrågningar med B70 i en Linux OS-miljö. Dessutom kan B70 ge snabbare svar för flera användare eller förfrågningar med en 6,2x snabbare tid till första token, och Intel nämner att dessa överlägsna hastigheter är möjliga tack vare företagets förbättrade oneAPI och egenutvecklade mjukvarustack. Prestandaökningen jämfört med Nvidia-konkurrensen skalar också med multi-GPU-konfigurationer eftersom Intel hävdar en ökning med upp till 2x tokens per dollar i enkla, dubbla och fyrdubbla GPU-konfigurationer.
Tyvärr visar bilderna inte några prestandamätvärden eller prisinformation för B65 GPU. Det skulle vara intressant att se om Intel tillåter AIB-partners att släppa spelorienterade versioner av B65- och B70-GPU: erna med något lägre VRAM-kapacitet. Detta skulle också innebära att Intel måste tillhandahålla förbättrade grafikdrivrutiner.
