Supermicro 擴展 AI 伺服器,性能推向邊緣運算環境

「加三嘻行動哇 Yipee! 成為好友」

FacebookYoutubeTwitterInstagramTelegramLine

Supermicro 正在擴展 AI 產品組合,能在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用 AI 的強大性能。透過使用搭載 NVIDIA GPU 的 Supermicro 應用最佳化伺服器,可更輕鬆地微調預訓練模型(Pre-trained Model)及將 AI 推論部署在產生資料的邊緣端,進而縮短回應時間與改善決策。

透過這些伺服器升級,如非必要情況,使用者不再需要將資料傳回雲端進行處理,再將資訊擷取回邊緣端。同時,客戶現在可以使用預先訓練且效能最佳化後的大型語言模型(LLM),並透過 NVIDIA AI Enterprise 在其邊緣位置使用,以便在靠近資料生成端進行即時、精準的決策。

Supermicro 的 Hyper-E 伺服器 SYS-221HE 系列便針對邊緣訓練和推論進行了最佳化,而具備短機身與前置 I/O設計的系統機型搭載了雙路CPU。這系統最多容納三個雙寬 NVIDIA Tensor Core GPU,包括 NVIDIA H100、A10、L40S、A40 和 A2 GPU。這些 GPU 為 Supermicro Hyper-E 提供足夠的運算能力,可在收集、分析和儲存資料的邊緣端處理 AI  工作負載。

Supermicro SYS-221HE 也提供前置或後置維運選項,使這些伺服器可被安裝在各種環境內。包括 Eviden 等合作夥伴正在打造邊緣 AI 解決方案,進而改善傳統零售商店內的客戶體驗,這些即為 Supermicro Hyper-E 伺服器的性能和靈活性可被運用的範例。

Supermicro的先進邊緣伺服器還包括:Supermicro SYS-621C-TNR12R、Supermicro SYS-111E-FWTR、緊湊型Supermicro SYS-E403-13E、超短機身SYS-211E-FRN2T、SYS-211SE-31D/A、SYS-E300-13AD 。

延伸閱讀:

 技嘉將在MWC秀5G、旗艦級AI伺服器、雲端與邊緣運算平台和大型綠色運算方案

Supermicro 推出 AI 儲存的機櫃級伺服器,加速 AI 訓練和推論的資料存取

Kioxia 硬碟與 Hewlett Packard 企業伺服器發射太空,為國際太空站提供資料儲存

Supermicro X13系列伺服器支援搭載第五代 Intel Xeon 處理器

Supermicro 擴大伺服器製造基地,提升機櫃級製造力

圖片及資料來源:美通社、Supermicro

好友人數

大家對網站文章上的一個讚、+1及轉分享,都是對我們的最好的鼓勵及繼續下去的原動力,請大家不要吝嗇。

下一頁

馬自達 Mazda MX-5 傳出可能將採用碳纖維製造車身結構

週日 2 月 25 , 2024
「加三嘻行動哇 Yipee! 成為好友」 【Facebook、Youtube、Twitter、Ins […]
Shares