NVIDIA 打破 AI 人工智慧推論的效能紀錄,A100 推論速度比 CPU 快237倍

「加三嘻行動哇 Yipee! 成為好友」

FacebookYoutubeTwitterInstagramTelegramLine

NVIDIA 輝達宣佈旗下的 AI 人工智慧運算平台,再度於最新的 MLPerf 效能基準測試中刷新效能紀錄。

在第二版的 MLPerf Inference 基準測試中,NVIDIA 在資料中心和邊緣運算系統的六項應用領域中的每一項測試均奪下冠軍。這次在既有的兩項電腦視覺測試外,又另外加入四個測試項目,含括發展最快的 AI 領域 ── 推薦系統、自然語言理解、語音辨識及醫療影像。

多個產業的組織早已運用 NVIDIA A100 Tensor Core GPU 的卓越推論效能,將 AI 從研究單位帶入日常營運內。金融機構使用對話式 AI 以更快速地回答客戶的問題;零售商運用 AI 維持貨架上的庫存;醫療服務供應商透過 AI 分析數百萬張醫療影像,以更準確地辨識疾病並幫助拯救生命。

最新的 MLPerf 結果出爐之際,NVIDIA 涉足 AI 推論領域的範圍也急劇增長。五年前只有少數引領業界的高科技公司將 GPU 用於推論作業;如今,NVIDIA 的 AI 平台可透過各大雲端運算與資料中心基礎設施供應商取得。

此外,NVIDIA GPU 目前在公有雲環境中提供 AI 推論的能力也首度超越 CPU。

NVIDIA 與合作夥伴提交的 MLPerf 0.7 基準測試成績是透過 NVIDIA 的加速平台而得,其中包括 NVIDIA 的資料中心 GPU、邊緣 AI 加速器及 NVIDIA 優化軟體。

NVIDIA 在 2020 年稍早推出搭載第三代 Tensor Cores 及多執行個體 GPU 技術的 NVIDIA A100。在最新一次的測試中,A100 以 30 倍的優勢擊敗了 CPU 系統,而在上一輪的測試成果中則為六倍。根據 MLPerf Inference 0.7 基準測試,A100 在新加入的資料中心推論推薦系統測試中,較最新的 CPU 效能高出237倍。

這代表一台 NVIDIA DGX A100 系統就能提供約 1,000台雙插槽 CPU 伺服器一樣的效能。

此基準測試亦顯示,NVIDIA T4 GPU 的表現比 CPU 高出28倍。

想達到優異的效能表現要有高度優化的軟體堆疊,包括 NVIDIA TensorRT 推論優化器與 NVIDIA Triton 推論服務軟體,這兩個軟體都可以在 NVIDIA 的軟體目錄 NGC 中取得。

除了 NVIDIA 自己提交的成果,NVIDIA 的 11 個合作夥伴也使用 NVIDIA GPU 提交共 1,029 項成果,佔資料中心與邊緣類別提交總數的 85% 以上。

延伸閱讀:

ZOTAC 推出首款搭載第 10 代 INTEL 處理器及 NVIDIA QUADRO RTX 顯示卡的迷你電腦

NVIDIA DGX A100 採用 AMD 第 2 代 EPYC 處理器,打造 AI 系統

NVIDIA 開發新一代 DGX A100 AI 與機器學習專屬系統,選用 AMD 處理器注入效能

NVIDIA GeForce Now 雲端串流遊戲上線,月付新台幣 150 元玩到飽

NVIDIA 推出 DRIVE AGX Orin 平台,深化自動駕駛車領域

圖片及資料來源:NVIDIA 輝達

好友人數

大家對網站文章上的一個讚、+1及轉分享,都是對我們的最好的鼓勵及繼續下去的原動力,請大家不要吝嗇。

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料

下一頁

Apple TV+ 訂閱優惠正式延長免費試用至 2021 年 2 月

週六 10 月 24 , 2020
「加三嘻行動哇 Yipee! 成為好友」 【Facebook、Youtube、Twitter、Ins […]
Shares