NVIDIA Spectrum-X イーサネット ネットワーキング プラットフォーム
AI ネットワークのパフォーマンスを従来型のイーサネットと比較して 1.6 倍 に高速化します。
はじめに
世界初の AI 向けイーサネット ネットワーキング プラットフォーム
NVIDIA Spectrum-X™ Ethernet のネットワーク プラットフォームでトレーニングし、大規模な AI をデプロイ。 NVIDIA Spectrum-X Ethernet スイッチと NVIDIA Spectrum-X Ethernet SuperNIC™ の緊密な連携によって実現されるこのプラットフォームは AI に最高レベルのパフォーマンスを提供します。データセンター内の AI コンピューティング ファブリック接続、Spectrum-XGS Ethernet による複数の AI データセンター間での拡張、さらに革新的なコパッケージド オプティカル スイッチングをサポートし、電力効率と AI ワークロードの回復力を高めます。
利点
AI クラウドにおける卓越したパフォーマンス
Spectrum-X は、イーサネットを活用して、マルチテナント型ハイパースケール AI クラウドを構築する革新的なソリューションです。Spectrum-X を使用することで、組織は AI クラウドの性能と電力効率を大幅に向上させ、予測可能性と一貫性を高めることができ、市場投入までの時間を短縮し、競争力を強化することができます。
大規模でもほぼ完璧な帯域幅
超低遅延
エンドツーエンドのスタック最適化
スケーラブルな AI 通信のための高度な RoCE 拡張機能
決定的パフォーマンスおよびパフォーマンスの分離
オープン ネットワーク オペレーティング システム: SONiC と NVIDIA® Cumulus®
AI クラウド パフォーマンスの向上
NVIDIA Spectrum-X は、ネットワーク パフォーマンスを 1.6 倍に高め、AI ワークロードの処理、分析、実行を加速し、これにより AI ソリューションの開発とデプロイを加速します。
ハイパースケール向けのアクセラレーテッド イーサネット
NVIDIA ネットワーキングのイノベーションを基盤とする Spectrum-X は、クラウド規模でオープンなイーサネット スタック (SONiC) をサポートする、完全に標準準拠したイーサネットです。
フルスタックの最適化
Spectrum-X は、NVIDIA のハードウェアとソフトウェアのフルスタックでチューニングおよび検証され、AI クラウド向けの比類のないイーサネット ソリューションを構築する理想的な設計を実現しています。
ギガスケールの AI 向けデータ センターを接続する
NVIDIA Spectrum-XGS Ethernet は、異なる建物であったり、数百キロメートル離れた複数の異なるデータ センターに拡張できるように設計されており、単一の統合された AI スーパーファクトリーとして機能させることができます。Spectrum-XGS Ethernet は、トポロジー認識型輻輳制御アルゴリズム、精密な遅延管理、およびエンドツーエンドのテレメトリーを使用して、データ センター間の環境で 1.9 倍の NCCL パフォーマンスを実現します。
NVIDIA シリコン フォトニクス
Spectrum-X Ethernet フォトニクスは、光学系をスイッチの ASIC と同じパッケージに配置することで、消費電力を削減し、信頼性を高め、AI の生産性を高めます。Spectrum-X Ethernet フォトニクスは、従来のプラガブル トランシーバー ベースのネットワークと比較して、ネットワークの電力効率を 5 倍に、ネットワーク回復性を 10 倍に、AI アプリケーションの継続的ランタイムを 5 倍にします。
Spectrum-X マルチプレーン
Spectrum-X マルチプレーンにより、イーサネットは、フラットな 2 層トポロジを使用して、数千基から数十万基の GPU に拡張できます。 各 GPU の SuperNIC を 2 つ以上の独立したネットワーク プレーンに分割することで、単一プレーンの制限を克服し、パフォーマンスと耐障害性を向上させ、Spectrum-X イーサネット ネットワークを 2 階層で最大 128K GPU まで拡張します。これは単一プレーン ネットワークの 64 倍に相当します。
ラックスケール Spectrum-X イーサネット
Spectrum-X イーサネットは、NVIDIA MGX™ ETL ラックスケール アーキテクチャに完全に統合されており、超高密度コンピューティング ラック向けの高性能イーサネット ネットワークを実現し、MGX の液冷と信頼性のイノベーションをさらに広範なコンピューティング オプションに拡張しています。 電力効率に優れた銅ベースのケーブル カートリッジは、液冷式 Spectrum-X イーサネット スイッチ トレイを単一ラック内で最大 256 基の GPU に接続します。また、フロントパネルの光接続により、より大規模な GPU ドメインへのスケールアウトが可能になります。
製品
プラットフォームの内部
NVIDIA Spectrum-X Ethernet スイッチ
NVIDIA Spectrum-X Ethernet スイッチは、ハイパースケールの生成 AI ファブリックを高速化するために設計されています。Spectrum-X Ethernet スイッチは、AI ファクトリー向けに効果の高い帯域幅とパフォーマンスを分離します。インフラを数十万単位の GPU に拡張し、世界最大級の AI モデルのトレーニングとデプロイを可能にします。
NVIDIA Spectrum-X Ethernet SuperNICs
NVIDIA Spectrum-X Ethernet SuperNIC は、ハイパースケールの AI ワークロードを強化するために構築された、新しいクラスのネットワーク アクセラレータです。NVIDIA SuperNIC は、ネットワークを集中的に利用する大規模な並列計算用に設計されており、GPU サーバー間で高帯域幅の RDMA over Converged Ethernet (RoCE) ネットワーク接続を提供し、ピーク時の AI ワークロードの効率性を最適化します。
アプリケーション
Spectrum-X Ethernet テクノロジの使用方法
パートナー
NVIDIA のパートナー企業
-
サーバー
-
ストレージ
-
オーケストレーション
関連情報
Spectrum-X Ethernet をさらに探る
