搭載 NVIDIA GH200 Grace Hopper 超級晶片的 Supermicro 伺服器開始出貨

「加三嘻行動哇 Yipee! 成為好友」

FacebookYoutubeTwitterInstagramTelegramLine

Supermicro 近日發表了基於 NVIDIA MGX 參考架構的業界最廣泛GPU系統新產品組合之一,而這些系統搭載最新的 NVIDIA GH200 Grace Hopper 和 NVIDIA Grace CPU 超級晶片。新的模組化架構旨在標準化緊湊型 1U 和 2U 機箱內的 AI 基礎設施和加速運算,同時為 GPU、DPU 及 CPU 提供極高的靈活性和擴充性。

Supermicro 的先進液冷技術實現了高密度的硬體配置,例如搭載整合了高速連結技術的 2 個 NVIDIA GH200 Grace Hopper 超級晶片的 1U 2 節點配置。Supermicro 每月可透過世界各地的製造廠交付數千個機櫃級 AI 伺服器,並確保隨插即用的相容性。

Supermicro 的 NVIDIA MGX 平台旨在提供一系列應對未來 AI 技術需求的伺服器。這個新產品系列解決了 AI 伺服器所會面臨的獨特散熱、能耗和硬體挑戰。

新的 Supermicro NVIDIA MGX 伺服器產品線包括:

  • ARS-111GL-NHR – 1 個 NVIDIA GH200 Grace Hopper 超級晶片,氣冷
  • ARS-111GL-NHR-LCC – 1 個 NVIDIA GH200 Grace Hopper 超級晶片,液冷
  • ARS-111GL-DHNR-LCC – 2 個 NVIDIA GH200 Grace Hopper 超級晶片,2 個節點,液冷
  • ARS-121L-DNR – 2 個節點各有 2 個 NVIDIA Grace CPU 超級晶片,共 288 個核心
  • ARS-221GL-NR – 2U 機箱中配置 1 個 NVIDIA Grace CPU 超級晶片
  • SYS-221GE-NR – 搭載雙路第四代 Intel Xeon 可擴充處理器,以及最多 4 個 NVIDIA H100 Tensor Core 或 4 個 NVIDIA PCle GPU

每個 MGX 平台都可透過 NVIDIA BlueField-3 DPU 及/或 NVIDIA ConnectX-7 互連實現高效能 InfiniBand 或乙太網路傳輸。

硬體規格

Supermicro 的 1U NVIDIA MGX 系統最多可配備 2 個 NVIDIA GH200 Grace Hopper 超級晶片,包含 2 個 NVIDIA H100 GPU 和 2 個 NVIDIA Grace CPU。每個系統為 CPU 提供 480GB LPDDR5X 記憶容量,以及為 GPU 提供 96GB 的 HBM3 或 144GB 的 HBM3e 記憶容量。記憶體一致,高頻寬、低延遲的 NVIDIA-C2C 互連技術可實現以每秒 900GB 的速度將 CPU、GPU 和記憶體進行連結,是 PCIe 5.0 的 7 倍。該系統的模組化架構提供多個 PCIe 5.0 x16 FHFL 插槽,以容納用於雲端和資料管理的 DPU,同時支援額外的 GPU、網路和儲存擴充。

具備 2 個 NVIDIA GH200 Grace Hopper 超級晶片的 1U 2 節點設計及 Supermicro 成熟的 Direct-to-Chip 液冷解決方案可以降低營運支出(OPEX)超過40%,同時提高運算密度,簡化大型語言模型(LLM)叢集和高速運算應用的機櫃級部署。

2U 機箱設計的 Supermicro NVIDIA MGX 平台支援 NVIDIA Grace 和 x86 架構的 CPU,並可配置最多 4 個全尺寸資料中心 GPU,如 NVIDIA H100 PCIe、H100 NVL 或 L40S。該平台也提供三個用於I/O連接的額外PCIe 5.0 x16插槽,以及八個可熱插拔的EDSFF儲存裝置插槽。

Supermicro 提供了 NVIDIA 網路,能保護並加速其MGX平台上的人工智慧運行作業。這包括 NVIDIA BlueField-3 DPU,它能提供2倍的200Gb/s連接速度以加速用戶到雲端和資料儲存的存取——與 ConnectX-7 適配器,是能於 GPU 伺服器之間提供最高 400Gb/s 的 InfiniBand 或乙太網路連接速度的組合。

開發人員可以迅速運用這些新系統與 NVIDIA 軟體服務來處理各種不同產業的工作負載。該軟體服務包含 NVIDIA AI Enterprise 這是一款企業級軟體,能夠驅動 NVIDIA AI 平台並簡化生成式人工智慧、電腦視覺、語音人工智慧等生產就緒應用的開發和部署。此外,NVIDIA HPC 軟體開發套件提供了推動科學運算進步所需的基本工具。

Supermicro NVIDIA MGX 系統的各方面都旨在提高效率,包含從智慧散熱設計到零件選擇。NVIDIA Grace 超級晶片 CPU 擁有 144 個核心,相較於現今產業標準的 x86 CPU,其每瓦效能提高了2倍。特定的 Supermicro NVIDIA MGX 系統可在 1U 機箱中配置 2 個節點,能夠搭載最多包括共 288 個核心的 2 組 Grace CPU 超級晶片,能在超大規模及邊緣資料中心提供突破性的運算密度和能源效率。

延伸閱讀:

AI 伺服器大廠 Supermicro 將推動資料中心採用液冷技術

Supermicro X13 伺服器家族將全面支援第 5 代 Intel Xeon 處理器

Supermicro 推出新款 H13 WIO 伺服器,搭載 AMD EPYC 8004 處理器

NETGEAR M4350 系列交換器登場,為影音從業人員解決混合式影音傳輸挑戰

Kingston FURY DDR4 記憶體登台, 支援Intel XMP與AMD Ryzen認證

Seagate 推出 Exos 24TB 硬碟,適合超大規模及企業客戶的資料中心

圖片及資料來源:Supermicro

好友人數

大家對網站文章上的一個讚、+1及轉分享,都是對我們的最好的鼓勵及繼續下去的原動力,請大家不要吝嗇。

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料

下一頁

realme Buds T300 登場!搭載 12.4mm 重低音單體和支援空間音效

週四 10 月 26 , 2023
「加三嘻行動哇 Yipee! 成為好友」 【Facebook、Youtube、Twitter、Ins […]
Shares