Supermicro 採用全新 NVIDIA Blackwell 架構的新一代系統及機架架構,拓展 AI 最佳化產品組合

「加三嘻行動哇 Yipee! 成為好友」

FacebookYoutubeTwitterInstagramTelegramLine

在 2024 年 NVIDIA GTC 大會上,AI、雲端、儲存及 5G/邊緣的全面 IT 供應商 Supermicro 推出用於大型生成式 AI 的全新 AI 系統,當中採用 NVIDIA 新一代數據中心產品,包括最新的 NVIDIA GB200 Grace Blackwell Superchip、NVIDIA B200 Tensor Core 及 B100 Tensor Core GPU。Supermicro 正加強現有的 NVIDIA HGX H100/H200 8-GPU 系統,以便支援 NVIDIA HGX B100 8-GPU 及 B200,縮短交付時間。

此外,Supermicro 將推出採用 NVIDIA GB200 的新產品,以進一步拓展全方位 NVIDIA MGX 系統產品系列,其中包括 NVIDIA GB200 NVL72。NVIDIA GB200 NVL72 是一款配備 72 個 NVIDIA Blackwell GPU 的完整機架級。Supermicro 亦為產品線加入全新系統,包括 4U NVIDIA HGX B200 8-GPU 液冷系統。

Supermicro 的直達晶片液冷技術可提高最新 GPU 的散熱設計功率 (TDP),充分發揮 NVIDIA Blackwell GPU 的潛力。Supermicro 搭載 NVIDIA Blackwell 的 HGX 和 MGX 系統為未來人工智能基礎設施奠定基礎,並將為數萬億參數的 AI 訓練及實時 AI 推理提供高性能。

Supermicro 多款經 GPU 優化的系統將準備支援 NVIDIA Blackwell B200 及 B100 Tensor Core GPU,並針對最新 NVIDIA AI Enterprise 軟體進行驗證,而該軟體加入支援 NVIDIA NIM 推理微服務的服務。Supermicro 系統包括:

  • NVIDIA HGX B100 8-GPU 及 HGX B200 8-GPU 系統
  • 5U/4U PCIe GPU 系統,最多可安裝 10 個 GPU
  • SuperBlade,8U 機箱最多可安裝 20 個 B100 GPU,6U 機箱最多可安裝 10 個 B100 GPU
  • 2U Hyper,最多可安裝 3 個 B100 GPU
  • Supermicro 2U x86 MGX 系統,最多可安裝 4 個 B100 GPU

為訓練大型基礎 AI 模型,Supermicro 準備率先向市場推出 NVIDIA HGX B200 8-GPU 及 HGX B100 8-GPU 系統。系統配備 8 個 NVIDIA Blackwell GPU,透過第五代 NVIDIANVLink 高速互連連接,速度高達 1.8TB/s,較上一代性能提高一倍,總高頻寬記憶體為 1.5TB。與 NVIDIA Hopper 架構一代相比,系統將為 GPT-MoE-1.8T 模型等 LLM 提供快 3 倍的訓練結果。這些系統具備網路功能,可擴展至集群,同時支援 NVIDIA Quantum-2 InfiniBand 及 NVIDIA Spectrum-X 乙太網絡選項,GPU 與 NIC 的比例為 1:1。

針對條件最嚴苛的 LLM 推理工作負載,Supermicro 推出了數款採用 NVIDIA GB200 Grace Blackwell Superchip 構建的新 MGX 系統,當中結合 NVIDIA Grace CPU,並配備兩個 NVIDIA Blackwell GPU。與 NVIDIA HGX H100 相比,Supermicro 搭載 GB200 系統的 NVIDIA MGX 將大幅提升人工智能推理性能,速度提升高達 30 倍。Supermicro 與 NVIDIA 透過 NVIDIA GB200 NVL72 開發機架級解決方案,可在單一機架中連接 36 個 Grace CPU 及 72 個Blackwell GPU。所有 72 個 GPU 均以第五代 NVIDIA NVLink 互連,GPU 之間的通訊速度達 1.8TB/s。

此外,Supermicro 亦推出針對推理工作負載的 ARS-221GL-NHIR。這是一款基於 GH200 系列產品的 2U 伺服器,以 900Gb/s 高速互連連接至兩台 GH200 伺服器。

Supermicro 系統亦將支援即將推出的 NVIDIA Quantum-X800 InfiniBand 平台(由 NVIDIA Quantum-X800 QM3400 交換器及 SuperNIC800 組成)及 NVIDIA Spectrum-X800 乙太網絡平台(由 NVIDIA Spectrum-X800 SN5600 交換器及 Spectrum-X800 組成)。NVIDIA Quantum-X800 及 Spectrum-X800 針對 NVIDIA Blackwell 架構進行優化,將為 AI 基礎架構提供最高級別的網絡性能。

延伸閱讀:

ERS 推出 Luminex 首台開創性光學拆鍵合技術的半自動設備

優必達Ubitus K.K.獲NVIDIA投資 共同推進亞洲雲遊戲與生成式AI發展

IBM Consulting Advantage助企業顧問提升50%的生產力

Samsung Medison 與 Bracco Imaging 在 ECR 2024 上達成全新超聲波診斷技術協議,攜手開闢新未來

專為生成式 AI 量身設計,新一代 Dell PowerEdge 伺服器現身

圖片及資料來源:美通社、Supermicro

好友人數

大家對網站文章上的一個讚、+1及轉分享,都是對我們的最好的鼓勵及繼續下去的原動力,請大家不要吝嗇。

下一頁

Black Hat Asia 2024公布高峰會日程

週四 3 月 21 , 2024
「加三嘻行動哇 Yipee! 成為好友」 【Facebook、Youtube、Twitter、Ins […]
Shares