A 88 magos Arm chip akár 1,8-szoros teljesítménnyel büszkélkedhet bizonyos ügynöki mesterséges intelligencia munkaterheléseknél
Mi történt most? Az Nvidia ezen a héten további információkat tett közzé a Vera adatközponti CPU-járól, beleértve az egyedi Olympus magokat, amelyeket kifejezetten az ügynöki mesterséges intelligencia munkaterhelésére építettek. A vállalat azt is állította, hogy az új magarchitektúra gyorsabb egymagos teljesítményt kínál, mint a konkurens termékek.
Az Nvidia Vera Rubin platformjának részét képező, Arm-alapú Vera CPU-t úgy tervezték, hogy összetett érvelést hajtson végre, megkönnyítse az eszközök végrehajtását, kódot generáljon és feladatokat tervezzen az AI-ügynökök számára. Többcélú chipként fejlesztették ki, és képes kezelni a tudományos adatfeldolgozást és a tanulás megerősítését is, amelyek több CPU-teljesítményt igényelnek, mint a tipikus AI-munkaterhelés.
Minden Vera CPU 88 Olympus magot, 176 fizikai szálat, 64 KB-os négyirányú L1 utasítás gyorsítótárat és 164 MB-ot tartalmaz. egységes L3 gyorsítótár egy monolitikus számítási szerszámon. Tartalmaz egy 48 utasításból álló dekódolási sort is. A középső mag magában foglalja a 96 KB hatutas L1 adatgyorsítótár és 2 MB nyolcutas L2 gyorsítótár, valamint hardveres gráf-előbetöltő adatintenzív grafikon- és elemzési munkaterhelésekhez.
Minden Az egyéni mag egy széles front-endet optimalizált elágazás-előrejelzőkkel, egy középmagot kritikus útgyorsítással és egy végrehajtó motort összetett vektoroptimalizálással. Azok nagy sávszélességű utasításlekérést kínál, amely akár 16 utasítást támogat ciklusonként, és tartalmaz egy 10 széles dekódolást motorfeldolgozás ig ciklusonként tíz összeolvasztott utasítás.
Az Olympus elágazás-előrejelzési alrendszere tartalmaz egy neurális ág-előrejelzőt, amely képes csökkenteni a rossz útvonalú végrehajtást meghatározott elágazási mintákon. A széles dekódolási útvonallal kombinálva ez is segít javítja a front-end átviteli sebességet a késleltetésre érzékeny munkaterhelésekhez, például az ügynöki mesterséges intelligenciához és a megerősítő tanuláshoz.
Az Olympus magarchitektúrája integrálja az Nvidia Spatial Multithreading technológiáját, lehetővé téve az erőforrások rugalmas particionálását. Támogatja a Scalable Coherency Fabric-et is 3,4 TB/s sebességgel magok közötti sávszélesség, 1,2 TB/s aggregált SOCAMM2 LPDDR5X memória sávszélesség és akár 1,5 TB memóriakapacitás.
A Vera támogatja az 1,8 TB/s-os csatlakozást az NVLink-C2C, PCIe 6.4 és CXL 3.1 rendszereken. Támogatja a kétfoglalatos skálázást is, mindegyik aljzat 176 PCIe Gen 6 sávot biztosít. A kétfoglalatos rendszerek késleltetésének javítása érdekében a Vera szoftver alapú megoldást használ, ahol minden socket egyetlen NUMA tartományként jelenik meg, elkerülve a töredezettséget és tiszta, két NUMA csomópontból álló topológiát.
A Vera teljesítményével kapcsolatos állításainak alátámasztására az Nvidia közzétette belső SPEC CPU 2026 teszteredményeit a hónap elején. Az adatok azt mutatják, hogy a Vera az AMD Epyc Turin 9755 rendszereihez képest akár 1,8-szoros teljesítményt nyújt bizonyos ügynöki mesterséges intelligencia munkaterhelésekben, például a 714.cpython_r esetében. Az eredményeket azonban még függetlennek kell ellenőrizni.