Asus presenterar "världens första USB edge AI-accelerator för både klassisk AI och generativ AI"

Expansionskort för PC-system är inget nytt, och dedikerade grafikkort är ett måste för krävande spelare. Vi har tidigare rapporterat om expansionskort för att accelerera AI-modeller, även om dessa förmodligen inte längre är absolut nödvändiga för många moderna PC-datorer tack vare NPU:er integrerade i APU:er. Ändå kan sådana expansionskort fortfarande vara användbara för att öka AI-prestandan i befintliga system. Asus har nu tillkännagivit ett sådant kort, UGen300.

Det är ett USB-expansionskort som kommunicerar via USB 3.1 Gen 2 och därför inte kräver någon installation i en PCI-plats eller öppning av datorhöljet. Enheten är utrustad med en Hailo 10H NPU, som sägs uppnå en prestanda på 40 TOPS (INT4), och dess typiska strömförbrukning specificeras till 2,5 watt, vilket gör den mycket låg till praktiskt taget försumbar. 8 GB LPDDR4 RAM-minne finns ombord, vilket sannolikt inte är tillräckligt för hardcore AI-entusiaster eftersom dedikerade AI-byggnader vanligtvis har långt över 100 GB RAM-minne.

Den är enligt uppgift kompatibel med både x86- och ARM-plattformar, Windows, Linux och Android enheter, samt olika ramverk som TensorFlow, PyTorch och ONNX. Enligt Asus finns över 100 förtränade modeller tillgängliga för användning. En typisk applikation kan vara avancerad bild- eller mönsterigenkänning och tolkning. Ingen information om pris eller tillgänglighet finns tillgänglig för närvarande