當前位置: 主頁 > 新聞 >
 

Ceva擴展智慧邊緣IP領導地位 增添用於AIoT設備的全新TinyML最佳化NPU, 實現無所不在的邊緣人工智慧

本文作者:Ceva       點擊: 2024-07-02 16:02
前言:
2024年7月2日--Ceva公司(納斯達克股票代碼:CEVA)是全球領先的晶片和軟體IP授權廠商,致力於使智慧邊緣(Smart Edge)設備能夠更可靠且更有效率地連接、感應和推論資料,宣佈推出Ceva-NeuPro-Nano NPU,以擴展其Ceva-NeuPro Edge AI NPU產品系列。這些自給自足的高效NPU可為半導體企業和OEM廠商提供所需的功耗、性能和成本效益,以便在用於消費、工業和通用AIoT產品的SoC中整合TinyML模型。

 
TinyML是指在低功耗、資源受限的設備上部署機器學習模型,從而為物聯網 (IoT) 增添人工智慧的技術性能。物聯網設備對於高效、專業的人工智慧解決方案的需求日益增加,推動了TinyML市場快速增長。根據研究機構ABI Research預測,到2030年,超過40%的TinyML出貨量將採用專用TinyML硬體,而非由通用MCU驅動。Ceva-NeuPro-Nano NPU解決了TinyML所面臨的特定性能難題,以實現無所不在和經濟實用的人工智慧,廣泛應用於消費和工業物聯網應用中的語音、視覺、預測性維護和健康感知等領域。

新型 Ceva-NeuPro-Nano嵌入式AI NPU架構完全可程式設計,可高效執行神經網路、特徵提取、控制程式碼和DSP程式碼,並支援最先進的機器學習資料類型和運算子,包括原生變換器運算、稀疏性加速和快速量化。與需要結合CPU或DSP並且基於AI加速器架構的現有TinyML工作負載處理器解決方案相比,這種最佳化的自給自足架構使得Ceva-NeuPro-Nano NPU具有卓越的能效、更小的矽片尺寸以及更優異的性能。此外,Ceva-NetSqueeze AI壓縮技術可直接處理壓縮模型權重,省去中間的解壓縮階段,這減少了80%的Ceva-NeuPro-Nano NPU記憶體佔用,從而解決了阻礙AIoT處理器廣泛應用的關鍵瓶頸問題。

Ceva副總裁暨感測器和音訊業務部門總經理Chad Lucien表示:「Ceva-NeuPro-Nano將TinyML應用整合到低功耗物聯網SoC和MCU中,並且以我們的企業策略為基礎,向智慧邊緣設備提供先進的連接、感知和推理能力,為企業開創了難能可貴的機會。Ceva-NeuPro-Nano系列NPU使得更多公司能夠將人工智慧帶入邊緣應用,從而製造具有先進功能集的智慧物聯網設備,為客戶創造更多的價值。我們在無線物聯網連接方面具有業界領先地位,在音訊和視覺感測方面亦擁有強大專業技術,具備獨一無二的市場條件,能夠協助客戶發揮TinyML的巨大潛力,實現創新的解決方案,從而增強用戶體驗、提高效率,並為建設更智慧、更互聯的世界做出貢獻。」

ABI Research產業分析師Paul Schell表示:「對於在智慧邊緣物聯網設備上實現人工智慧,Ceva-NeuPro-Nano可以滿足電池供電設備對功耗、性能和成本的要求,實現語音、視覺和感測用例在廣泛終端市場的全天候應用,令人刮目相看。從TWS耳機、耳塞、穿戴式設備和智慧揚聲器到工業感測器、智慧電器、家居自動化設備、攝影鏡頭等,Ceva-NeuPro-Nano可以在能源受限的AIoT設備中實施TinyML。」

Ceva-NeuPro-Nano NPU提供兩款配置,包括配備32個int8 MAC的Ceva-NPN32和配備64個int8 MAC的Ceva-NPN64,這兩種配置都借助Ceva-NetSqueeze獲得直接處理壓縮模型權重功能。Ceva-NPN32針對語音、音訊、物品檢測和異常檢測用例的大多數TinyML工作負載進行了高度最佳化;Ceva-NPN64則利用權重稀疏性、更大記憶體頻寬、更多MAC和4位元權重支援提供2倍性能加速,從而提供更強大的性能,在設備上實現更複雜的人工智慧用例,例如物品分類、人臉檢測、語音辨識和健康監測等。

這些NPU隨附完整的人工智慧SDK-Ceva-NeuPro Studio,這是為整個Ceva-NeuPro NPU系列提供一套通用工具的統一人工智慧堆疊,支援包括TensorFlow Lite for Microcontrollers (TFLM) 和microTVM (µTVM) 的開放式人工智慧框架。

Ceva-NeuPro-Nano主要特性

靈活且可擴展的NPU架構
· 完全可程式設計,高效執行神經網路、特徵提取、控制程式碼和DSP程式碼 
· 設計具備可擴展性能,滿足廣泛用例需求
o 具有每週期最多64個int8 MAC的MAC配置
· 著眼未來的架構,支援最先進的ML資料類型和運算子 
o 支援4位元至32位元整數 
o 原生變換器運算 
· 利用先進的機制為所有用例提供終極ML性能 
o 稀疏性加速 
o 非線性啟動類型加速  
o 快速量化

超低記憶體需求邊緣NPU
· 用於NN運算、特徵提取、控制程式碼和DSP程式碼的高效單核設計,可讓這些運算密集型任務省去配套MCU
· 利用Ceva-NetSqueez直接處理壓縮模型權重,省去中間的解壓縮階段,最多可減少80%的記憶體佔用
 
通過創新能源最佳化技術實現超低能耗
· 自動化的動態能源調整
· 通過使用權重稀疏性加速對計算進行提煉,大幅降低能耗和頻寬需求

完備且易於使用的人工智慧SDK
· Ceva-NeuPro Studio為所有Ceva-NeuPro NPU (從全新Ceva-NeuPro-Nano到功能強大的Ceva-NeuPro-M) 提供统一的人工智慧堆疊,具有簡便的點擊運行使用體驗。 
· 加速軟體的開發和部署,從而縮短產品上市時間。
· 經過最佳化,可與包括TFLM和µTVM在內的領先開放式人工智慧推論框架完美協作。  
· Model Zoo包含預訓練和最佳化的TinyML模型,涵蓋語音、視覺和感測用例。
· 靈活適應新的模型、應用和市場需求。 
· 全面的最佳化運行時間程序庫和現成的特定應用軟體組合。  

供貨
Ceva現在已開始提供Ceva-NeuPro-Nano NPU授權許可,如要瞭解更多資訊,請瀏覽公司網頁:https://www.ceva-ip.com/product/ceva-neupro-nano/

關於Ceva公司
Ceva熱衷於為智慧邊緣運算技術帶來全新的創新水準。我們的無線通訊、感測和邊緣AI技術是當今一些最先進智慧邊緣產品的核心。我們擁有更可靠、更高效地連接、感測和推論資料的廣泛IP組合,包括用於藍牙連接、Wi-Fi、 UWB 和5G平臺 IP,能實現無處不在的強大通訊;以至可擴展的邊緣運算人工智慧 NPU IP、 感測器融合處理器和可升級設備智慧程度的嵌入式應用軟體。我們提供差異化解決方案,在極小的矽晶片尺寸內實現超低功耗來提供卓越性能。我們的目標很簡單:為業界提供矽產品和軟體 IP,從而打造一個更智慧、更安全和更緊密互連的世界。Ceva此刻正在努力實踐此一理念,為全球超過170億個創新的智慧邊緣產品提供支援,涵蓋人工智慧智慧手錶、物聯網裝置和穿戴式設備,以及自動駕駛汽車和5G行動網路。

Ceva總部位於美國馬里蘭州羅克維爾市,公司擁有遍佈世界各地的營運機構為全球客戶群提供強而有力的支援。我們的員工包括各個專業領域的頂尖專家,能夠不斷解決最複雜的設計難題,幫助客戶將創新的智慧邊緣運算產品推向市場。

Ceva:實現智慧邊緣

如要瞭解有關Ceva的更多資訊,請瀏覽網站ceva-ip.com,並關注我們的Twitter、YouTube 和LinkedIn帳戶。


 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11