Lättbaserat chip med 100× snabbare och mer effektiv prestanda än Nvidia A100

Forskare från Shanghai Jiao Tong University och Tsinghua University har presenterat "LightGen", ett banbrytande alloptiskt datachip som är särskilt utformat för att hantera de enorma krav som generativ artificiell intelligens ställer. Chipet - som beskrivs i tidskriften Science - innebär en betydande övergång från elektroniska transistorer till fotoniska neuroner och erbjuder en potentiell lösning på de enorma energiflaskhalsar som AI-industrin för närvarande står inför.

Medan tidigare optiska processorer innehöll några tusen neuroner och i stort sett var begränsade till enklare uppgifter som bildklassificering, använder LightGen avancerad 3D-förpackning för att integrera över två miljoner artificiella neuroner i en enda kvartskvadratcentimeter stor enhet. Denna enorma skala gör det möjligt för chipet att utföra komplexa generativa uppgifter, t.ex. högupplöst videogenerering och 3D-modellering, som tidigare var förbehållna avancerade elektroniska GPU:er.

En viktig innovation i designen är det "optiska latenta utrymmet" Genom att använda ultratunna metaytor och optiska fiberarrayer kan chippet komprimera och bearbeta högdimensionella data helt genom ljus. Detta gör att systemet kan arbeta med fullupplösta bilder utan att dela upp dem i olika delar, vilket bevarar viktiga statistiska data och ökar genomströmningen dramatiskt. Forskarna rapporterade att chipets prestanda är över 100 gånger snabbare än en ledande Nvidia A100 GPU.

I laboratorietester har LightGen framgångsrikt genererat semantiska bilder med hög upplösning och 3D-manipulering med en kvalitet som är jämförbar med ledande elektroniska neurala nätverk. Även om tekniken för närvarande är beroende av externa laseruppsättningar och specialiserade tillverkningsprocesser, utgör den en lovande vägkarta för framtidens snabba, hållbara och intelligenta databehandling.

LightGen öppnar en ny väg för att utveckla generativ AI med högre hastighet och effektivitet, vilket ger en ny riktning för forskning om höghastighets, energieffektiv generativ intelligent databehandling. - Yitong Chen, huvudförfattare till artikeln.