Nvidia presenterar fotoniska switchar för att skala AI-nätverk med miljontals GPU:er

Nvidia siktar på att revolutionera datacenteranslutningar genom att utnyttja ljus. I mars 2025 introducerade företaget Spectrum-X Photonics Ethernet- och Quantum-X Photonics InfiniBand-switchar. Dessa är utformade för att ansluta stora "AI-fabriker" på olika platser och stödja miljontals GPU:er, samtidigt som energianvändningen och kostnaderna minskar. Det primära målet är att integrera optiska motorer med switchchip och därmed eliminera onödiga elektriska komponenter.

Den största utmaningen är att skala upp. När hastigheterna når 800 gigabit per sekund eller mer blir kopparanslutningarna mellan servrar och switchar långsammare. Signalerna förlorar styrka när de färdas genom kretskort och kontakter. Detta sker innan signalen når den optiska modulen. Nvidia uppger att denna förlust är cirka 22 decibel på 200-gigabitskanaler. Detta innebär att mer ström behövs, och varje port använder cirka 30 watt. Extra komponenter ökar också risken för fel.

Co-packaged optics, eller CPO, förändrar detta upplägg. Genom att placera den optiska motorn bredvid switchchipet överförs signalerna till fibern nästan omedelbart. Detta minskar den elektriska förlusten till cirka fyra decibel och minskar strömförbrukningen per port till cirka nio watt. Nvidia säger att i större skala ger den här metoden cirka 3,5 gånger bättre energieffektivitet, över 60 gånger bättre signalkvalitet, 10 gånger bättre motståndskraft eftersom det finns färre aktiva delar och cirka 30 procent snabbare installation, eftersom det finns mindre att bygga och underhålla.

För Ethernet är Spectrum-X Photonics inriktat på stora nätverk med flera hyresgäster. Nvidia säger att det erbjuder cirka 1,6 gånger mer bandbredd per yta än vanligt Ethernet. Alternativen omfattar 128 portar med 800 Gb/s eller 512 portar med 200 Gb/s. Detta ger totalt 100 Tb/s. Större installationer kan gå upp till 512 portar på 800 Gb/s eller 2 048 portar på 200 Gb/s. Detta ger totalt 400 Tb/s.

För InfiniBand fokuserar Quantum-X Photonics på 800 Gb/s (gigabit per sekund)-anslutningar och använder vätskekylning, ett system som använder en flytande kylvätska för att avlägsna värme. Den översta switchen har 144 portar och kan hantera 115 Tb/s data. Den innehåller också in-network computing, som bearbetar data i själva nätverket, med en kapacitet på 14,4 triljoner flyttalsoperationer per sekund. Systemet använder Nvidias senaste SHARP-teknik (Scalable Hierarchical Aggregation and Reduction Protocol) för att snabba upp gruppuppgifter över hela nätverket.

Nvidia säger att den här generationen är dubbelt så snabb och fem gånger mer skalbar för AI-nätverk än den tidigare. Planen för att förbättra skalbarheten är nära kopplad till TSMC:s COUPE-plattform och avancerade förpackningsmetoder. I den första fasen kommer optiska motorer i OSFP-moduler att nå 1,6 Tb/s. Den andra fasen kommer att använda sampaketerad optik på moderkortet, med en kapacitet på 6,4 Tb/s. Den tredje fasen siktar på 12,8 Tb/s i processorpaket, vilket ytterligare minskar latens och strömförbrukning. Nvidia räknar med att lansera CPO-baserade Quantum-X-switchar i början av 2026 och Spectrum-X Photonics senare samma år, som båda kommer att ha vätskekylning.

Nvidia samarbetar med företag som TSMC, Coherent, Corning, Fabrinet, Foxconn, Lumentum, SENKO, SPIL, Sumitomo Electric, TFC och andra för att täcka tillverkning, optik och montering. Målet är att ta bort tusentals separata delar från stora kluster, snabba upp installationen och göra nätverk med en miljon GPU:er möjliga utan att förbruka för mycket ström.