相較於傳統乙太網路,AI 網路效能提升 1.6 倍。
使用 NVIDIA Spectrum-X™ 乙太網路平台訓練及部署大規模 AI。這個平台採用 NVIDIA Spectrum-X 乙太網路交換器 與 NVIDIA Spectrum-X 乙太網路 SuperNIC™ 緊密整合設計,為 AI 提供最高效能:在資料中心內連接 AI 運算網狀架構,利用 Spectrum-XGS 乙太網路跨多個 AI 資料中心擴充,並且支援創新共同封裝光學交換技術,實現更高的功率效率與 AI 工作負載韌性。
Spectrum-X 是革命性的解決方案,可透過乙太網路建立多租戶的超大規模 AI 雲端。組織若採用 Spectrum-X,便可大幅提升 AI 雲端的效能和能源效率,並且提高可預測性和一致性,進而縮短上市時間並提升競爭優勢。
Spectrum-X 是完全符合標準的乙太網路,採用 NVIDIA 網路創新技術,支援雲端規模的開放式乙太網路堆疊 (SONiC)。
NVIDIA Spectrum-XGS 乙太網路專為跨多個分散式資料中心擴大規模而設計,無論是位於不同建築物,或相距數百公里,都能整合為統一的 AI 超級工廠般運作。Spectrum-XGS 乙太網路採用拓撲感知的壅塞控制演算法、精確的延遲管理,以及端到端遙測技術,讓跨資料中心環境的 NCCL 效能提升 1.9 倍。
Spectrum-X 乙太網路光子技術將光學元件與交換器 ASIC 整合於相同的封裝內,可降低功耗、提高可靠性,並且提高 AI 生產力。相較於傳統可插拔收發器網路,Spectrum-X 乙太網路光子技術可將網路功率效率提升 5 倍、網路韌性提高 10 倍,持續性 AI 應用程式執行時間則延長 5 倍。
Spectrum-X 多平面架構讓乙太網路能透過扁平化的兩層拓撲,將規模從數千顆擴充為成千上萬顆 GPU。將每顆 GPU 的 SuperNIC 跨接至兩個或多個獨立網路平面,不僅能克服單平面限制、提高效能與韌性,還可在兩層架構將 Spectrum-X 乙太網路擴充至 128K 顆 GPU,規模是單平面網路的 64 倍。
Spectrum-X 乙太網路與 NVIDIA MGX™ ETL 機架級架構完全整合,為超密集運算機架提供高效能乙太網路,並將 MGX 的液冷技術與可靠性創新,擴大應用至更廣泛的運算選項。這款高能效的銅纜線匣,可將液冷式 Spectrum-X 乙太網路交換器托盤連接至單機櫃內多達 256 顆 GPU,而前面板的光纖連接能力,支援橫向擴充為規模更大的 GPU 網域。
NVIDIA Spectrum-X 乙太網路交換器是專為加速超大規模生成式 AI 網狀架構而打造。Spectrum-X 乙太網路交換器為 AI 工廠提供高效頻寬與效能隔離,可將基礎架構擴充至成千上萬顆 GPU,並且實現全球最大 AI 模型的訓練與部署作業。
NVIDIA Spectrum-X 乙太網路 SuperNIC 是新型網路加速器,專為大幅提升超大規模 AI 工作負載效能量身打造。NVIDIA SuperNIC 專為網路密集型大規模平行運算而設計,在 GPU 伺服器之間提供高頻寬融合乙太網路的 RDMA (RoCE) 網路連線能力,將 AI 工作負載的高峰效率最佳化。