2024年3月18日--NVIDIA 今天發布了新一波專為大規模人工智慧(AI)而設計的網路交換器:X800 系列。
NVIDIA Quantum-X800 InfiniBand 和 NVIDIA Spectrum™-X800 乙太網路是全球首款能夠實現端到端 800Gb/s 吞吐量的網路平台,突破了運算和 AI 工作負載網路效能的界限。它們配備的軟體可進一步加速各類資料中心中的AI、雲端、資料處理和高效能運算應用程式,包括那些採用新發布的基於 NVIDIA Blackwell 架構的產品系列的資料中心。
NVIDIA 網路事業部資深副總裁 Gilad Shainer 表示:「NVIDIA 網路對於我們的 AI 超級運算基礎設施的可擴展性至關重要。NVIDIA X800 交換器是端到端網路平台,使我們能夠實現對新 AI 基礎設施至關重要的兆級參數規模的生成式 AI。」
Microsoft Azure 人工智慧基礎設施副總裁 Nidhi Chappell 表示:「人工智慧是將資料轉化為知識的強大工具。這種轉變的背後是資料中心演變為高效能AI引擎,對網路基礎架構的需求增加。 透過 NVIDIA 網路解決方案的新整合,Microsoft Azure 將繼續建立突破雲端 AI 邊界的基礎設施。」
Quantum InfiniBand 和 Spectrum-X 乙太網路的最初採用者包括 Microsoft Azure 和 Oracle Cloud Infrastructure。
Coreweave 也是早期採用者之一。
極致效能的全新標準
Quantum-X800 平台為 AI 專用基礎架構提供最高效能樹立了新標準 它包括 NVIDIA Quantum Q3400 交換器和 NVIDIA ConnectXⓇ-8 SuperNIC ™,共同實現了業界領先的 800Gb/s 端到端吞吐量。 與上一代相比,借助 NVIDIA 可擴展分層聚合和縮減協定(SHARPv4),頻寬容量提高了 5 倍,網路內運算速度提高了 9 倍,達到 14.4Tflops。
Spectrum-X800 平台為 AI 雲端和企業基礎架構提供最佳化的網路效能。 Spectrum-X800 平台利用 Spectrum SN5600 800Gb/s 交換器和 NVIDIA BlueField-3® SuperNIC,提供對多租戶生成式 AI 雲端和大型企業至關重要的先進功能集。
Spectrum-X800 最佳化網路效能,促進更快處理、分析和執行AI工作負載,從而加快AI解決方案的開發、部署和上市時間。 Spectrum-X800 專為多租戶環境而設計,可確保每個租戶的 AI 工作負載的效能隔離,以保持最佳且一致的效能水平,從而提高客戶滿意度和服務品質。
NVIDIA 軟體支持
NVIDIA 提供一整套網路加速函式庫、軟體開發套件和管理軟體,以最佳化兆級參數 AI 模型的效能。
其中包括 NVIDIA 集體溝通常式程式庫(Collective Communications Library; NCCL),它將 GPU 平行運算任務擴展到 Quantum-X800 網路結構,利用其強大的網路內運算功能以及支援 FP8 的 SHARPv4,增強大型模型訓練和生成式 AI 的效能。
NVIDIA 的全端軟體方法提供了先進的可程式設計性,使資料中心網路更加靈活、可靠且回應迅速,最終提高整體營運效率並支援現代應用程式和服務的需求。
生態系動力
全球眾多領先基礎設施和系統供應商將於明年推出 Quantum-X800 和 Spectrum-X800,其中包括 Aivres、DDN、戴爾科技集團、Eviden、Hitachi Vantara、慧與科技、聯想、美超微和 VAST Data。
關於NVIDIA(輝達)
NVIDIA(輝達)自 1993 年成立以來始終為加速運算領域的先驅。自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長、重新定義電腦繪圖、引領現代人工智慧時代並推動打造工業數位化。NVIDIA 為一間全方位的運算基礎架構公司,提供資料中心規模的產品以重塑產業樣貌。欲瞭解更多資訊,請瀏覽 https://nvidianews.nvidia.com/。