當前位置: 主頁 > 新聞 >
 

NVIDIA Blackwell Ultra DGX SuperPOD 提供開箱即用的人工智慧超級電腦,協助企業建造人工智慧工廠

本文作者:NVIDIA       點擊: 2025-03-19 19:24
前言:
l NVIDIA Blackwell Ultra-Powered DGX 系統為即時 AI 代理回應大幅提升 AI 推理速度 l Equinix 率先提供 NVIDIA Instant AI Factory 服務,在 Blackwell 就緒設施內,針對 DGX GB300 與 DGX B300 系統提供預先配置的空間,以因應全球對 AI 基礎架構的需求
2025年3月18日--NVIDIA 今日發表全球最先進的企業級人工智慧(AI)基礎架構:採用 NVIDIA Blackwell Ultra GPU 構建的NVIDIA DGX SuperPOD™,針對尖端代理型 AI 推理,為各產業企業提供 AI 工廠超級運算能力。

 
全新的 NVIDIA DGX™ GB300 與 NVIDIA DGX B300 系統內建 NVIDIA 網路技術,協助企業提供開箱即用的 DGX SuperPOD AI 超級電腦,不僅精度達 FP4,且具備更快的 AI 推理速度,大幅加速 AI 應用的詞元生成。

AI 工廠針對代理型、生成式與實體 AI 工作負載提供專用基礎架構,為實際作業環境中的應用,提供AI 預訓練、訓練後和測試階段擴充所需的大量運算資源。

NVIDIA 創辦人暨執行長黃仁勳表示:「AI發展迅速,企業紛紛積極打造可擴充的 AI 工廠,以滿足推理 AI 與推論時間擴展的處理需求。NVIDIA Blackwell Ultra DGX SuperPOD 為代理型與實體 AI 時代,提供開箱即用的 AI 超級運算系統。」

DGX GB300 系統採用 NVIDIA Grace Blackwell Ultra 超級晶片,其中包含 36 顆 NVIDIA Grace™ CPU 與 72 顆 NVIDIA Blackwell Ultra GPU,此外還搭載專門設計的機架級液冷式架構,可實現先進推理模型的即時代理回應。

氣冷式 NVIDIA DGX B300 系統採用 NVIDIA B300 NVL16 架構,協助各地的資料中心滿足生成式與代理型 AI 應用的運算需求。

此外,為因應對於先進加速基礎架構日益增長的需求,NVIDIA 推出了 NVIDIA Instant AI Factory,這是一項採用由 Blackwell Ultra 驅動的 NVIDIA DGX SuperPOD 的託管服務。Equinix 將率先在全球 45 個市場於其預先配置液冷式或氣冷式 AI 就緒資料中心,提供全新的 DGX GB300 與 DGX B300 系統。

搭載 DGX GB300 的 NVIDIA DGX SuperPOD 扮演 AI 推理時代發展推手

搭載 DGX GB300 的 DGX SuperPOD 系統,可擴充至數萬顆 NVIDIA Grace Blackwell Ultra 超級晶片,並採用 NVIDIA NVLink™、NVIDIA Quantum-X800 InfiniBand 與 NVIDIA Spectrum-X™ 乙太網路技術連接,為運算資源最吃重的工作負載,大幅提升訓練與推論效能。

DGX GB300 系統可提供比使用 NVIDIA Hopper™ 系統建立的 AI 工廠高出 70 倍的 AI 表現,而且搭載 38 TB 高速記憶體,讓代理型 AI 與推理應用的多步驟推理,實現無與倫比的大規模效能。

每個 DGX GB300 系統中的 72 顆 Grace Blackwell Ultra GPU 皆採用第五代 NVLink 技術連接,透過 NVLink Switch 系統打造出超大共享記憶體空間。

每個 DGX GB300 系統皆搭載 72 個 NVIDIA ConnectX®-8® SuperNIC,實現高達 800Gb/s 的加速網路速度,效能是前一代的兩倍。18 個 NVIDIA BlueField®-3 DPU搭配 NVIDIA Quantum-X800 InfiniBand 或 NVIDIA Spectrum-X Ethernet,可為大規模 AI 資料中心加速效能與效率,並提升安全性。

DGX B300 系統是每個資料中心加速 AI 的利器

NVIDIA DGX B300 系統是一個 AI 基礎架構平台,可幫助每個資料中心實現節能的生成式 AI 與 AI 推理技術。

DGX B300 系統採用 NVIDIA Blackwell Ultra GPU 加速,AI 推論效能速度較 Hopper 世代提升 11 倍,訓練則加速 4 倍。

每個系統皆提供 2.3 TB 的 HBM3e 記憶體,而且搭載先進的網路技術,採用8個 NVIDIA ConnectX-8 SuperNIC 和2個 BlueField-3 DPU。

NVIDIA 軟體加速 AI 開發與部署 為了讓企業能夠將基礎架構的管理與運作自動化,NVIDIA 還推出 NVIDIA Mission Control™ 這款適用於 Blackwell 架構 DGX 系統的 AI 資料中心營運與協調軟體。

NVIDIA DGX 系統支援 NVIDIA AI Enterprise 軟體平台,協助建置和部署企業級 AI 代理。範圍包括 NVIDIA NIM™ 微服務,例如今日發表的全新 NVIDIA Llama Nemotron 開放式推理模型系列,以及用於協調及最佳化 AI 代理效能的 NVIDIA AI Blueprints、架構、函式庫與工具。

NVIDIA Instant AI Factory 可滿足基礎架構需求

NVIDIA Instant AI Factory 為企業提供的 Equinix 託管服務,採用 Blackwell Ultra 驅動且內含 NVIDIA Mission Control 軟體的 NVIDIA DGX SuperPOD。

透過Equinix遍佈全球各地的專用設施,這項服務可為企業提供配置齊全且能夠生成資訊的 AI 工廠,並針對先進的模型訓練與即時推理工作負載進行最佳化,省去好幾個月的部署前基礎架構規劃時間。

上市時程

合作夥伴預計在今年稍晚推出採用 DGX GB300 或 DGX B300 系統的 NVIDIA DGX SuperPOD。

NVIDIA Instant AI Factory 規劃於今年稍晚開始提供。

歡迎觀看 NVIDIA GTC 主題演講,並且報名參加 NVIDIA 與業界領導者在 GTC 大會的各項精彩會議,GTC 大會將從即日起舉辦至 3 月 21 日。

關於NVIDIA(輝達) NVIDIA(輝達)為加速運算領域的先驅。
 
 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11