【COMPUTEX 2019】NVIDIA 推出邊緣運算平台,帶來即時串流的 AI 運算

NVIDIA 輝達發表 NVIDIA EGX 加速運算平台,讓企業能在邊緣執行低延遲的 AI 作業,能針對 5G 基地台、倉儲、零售商店、工廠與其他作業站間龐大且不間斷的資料串流進行接收、分析並即時採取行動。

NVIDIA EGX 能為產生資料的邊緣進行立即且高吞吐量的AI 運算,確保反應時間並同時減少必須傳回雲端的資料量。等到 2025 年,全球將有 1,500 億個機器感測器與物聯網 (IoT) 裝置不間斷地串流需要即時處理的資料,這些資料量比現今由使用智慧型手機所產生的資料還要多。如同 NVIDIA EGX 平台的邊緣伺服器也將會遍布全球各地,以即時處理來自這些感測器的資料。

擴充性

EGX 擁有強大的擴充性,小至體積極小的 NVIDIA Jetson Nano,以僅僅幾瓦的耗能就能提供如影像辨識等任務所需的每秒五萬億兆次浮點運算 (TOPS);規模亦可大至一整櫃的 NVIDIA T4 伺服器,為即時口語辨識和其他即時 AI 任務提供超過10,000 兆次浮點運算的效能。

企業級應用

NVIDIA 與 Red Hat 攜手合作,將 NVIDIA 邊緣堆疊技術與頂尖企業級 Kubernetes 容器編譯平台 OpenShift 進行整合與優化。

NVIDIA 邊緣堆疊技術是最佳化的軟體堆疊,其中包含 NVIDIA 驅動程式、CUDA Kubernetes 外掛程式、CUDA 容器計時、CUDA-X 函式庫與包含 TensorRT、TensorRT 推論伺服器與 Deepstream 在內的容器化 AI 框架與應用。NVIDIA 邊緣堆疊為經認證的伺服器而優化,並能透過 NVIDIA NGC 登入服務進行下載。

整合邊緣 AI 雲端

EGX 將全系列 NVIDIA AI 運算技術與 Red Hat OpenShift 和 NVIDIA 邊緣堆疊與 Mellanox 和 Cisco 安全、網路與儲存技術進行整合。這讓如電信、製造、零售、醫療與運輸等最大型的企業能夠快速部署安全的企業級 AI 基礎設施。

驅動混合雲與多雲 IoT

主要雲端服務皆提供 NVIDIA AI 運算,且在架構上與 NVIDIA EGX 相容。在雲端上開發的 AI 應用能夠在該平台執行,反之亦是如此。NVIDIA 邊緣堆疊與各大雲端 IoT 服務連結,用戶也能透過 AWS IoT Greengrass 與微軟 Azure IoT Edge 遠端管理其服務。

開發人員的支持

NVIDIA EGX 為持續成長的軟體解決方案生態系持續優化邊緣 AI,包括如 AnyVision、DeepVision、鐵雲科技 (IronYun) 與碼隆科技 (Malong Technologies) 等軟體商所推出、適合大型連鎖零售商店與智慧城市所使用的影像分析應用,以及來自 12 Sigma、推想科技 (Infervision)、Qunatib 與 Subtle Medical提供的醫療相關軟體產品。

延伸閱讀:

COMPUTEX 2019 明起開跑!掌握前瞻商機

【COMPUTEX 2019】ZOTAC 發表多款迷你電腦及電競主機

【COMPUTEX 2019】UL 攜手 USB 協會展示 USB Type-C 的安全關鍵

【COMPUTEX 2019】UL 攜手 USB 協會展示 USB Type-C 的安全關鍵

2019 COMPUTEX 論壇「智慧·無所不在」匯聚全球科技巨擘,現正報名中

【COMPUTEX 2019】曜越科技集合旗下眾品牌挑戰水冷電競

【COMPUTEX 2019】d&i awards 得獎名單揭曉,60 件產品獲獎

【COMPUTEX 2019】新創展區 InnoVEX 聚焦 AI 及 IoT ,吸引 24 國 467 組海內外團隊參展

圖片及資料來源:NVIDIA 輝達


大家對網站文章上的一個讚、+1及轉分享,都是對我們的最好的鼓勵及繼續下去的原動力,請大家不要吝嗇。