「加三嘻行動哇 Yipee! 成為好友」
【Facebook、Youtube、Twitter、Instagram、Telegram、Line】
AI 人工智慧浪潮襲捲全球，特別是由 ChatGPT 帶起的各種生成式 AI 機會風起雲湧，吸引業界大廠競相加大對於 AI 的投資力度。在 2024 年初的 CES 國際消費電子展上，台灣AI新秀 Neuchips 創鑫智慧憑藉支援 AI 晶片的高能效 PC 應用展示備受矚目。
因應大型語言模型的崛起，為了區隔市場，Neuchips 將 N3000 更名為 Raptor，並定義為專做語言模型的推論加速晶片。只要一台搭配這款 Raptor 晶片與 i5 CPU 的可攜式工作站，利用 Whisper 模型執行語音轉文字(speech to text)並以 Llama-2 模型回應，無需連網即可打造如聊天機器人般的對話功能，可說是以地端(On-Prem)單機實現離線版ChatGPT。
相較於其他競爭方案必須連網或使用幾百顆晶片才能實現相同應用情境，Neuchips Raptor 晶片由於從軟體層寫入模型，還能實現功耗約 55W 的 小尺寸 PCIe 板卡，DM.2版本功耗甚至低至30W。
著眼於此低功耗、小尺寸的特性，國際知名的工程和應用科學專業組織IEEE旗艦雜誌《IEEE Spectrum》報導CES最具潛力的五家公司中，還特別介紹了Neuchips AI PC板卡所具備的超低功耗以及大幅降低記憶體需求等特性優勢。
延伸閱讀：
純法國製造的 ORIZON 新系列脫掛式纜車，可快速在山區、旅遊區和城市空間穿梭
繪王贊助 TED 2024 大會百台 Note 智慧筆記本，展現對原創理念和創造力的支持
Supermicro發表X14伺服器系列，支援 Intel Xeon 6 處理器
圖片及資料來源：美通社
|
