Imagination發表PowerVR神經網路加速器(NNA)，和其最接近的競爭方案相比較，可提供兩倍效能與一半頻寬
前言：
2017年9月21日--Imagination Technologies 宣佈，推出完整、獨立式的硬體IP神經網路加速器，透過神經網路(NN)專用的PowerVR架構建置，可提供業界領先的面積效率。為在行動、監控、汽車與消費性系統上開發SoC的業者將能以非常低的功耗，在最小的矽晶面積中整合新款的PowerVR Series2NX神經網路加速器(NNA)，以實現神經網路的高效能運算。
包括卷積神經網路(CNN)、遞歸神經網路(RNN)和長短期記憶網路(LSTM)等神經網路都正推動各個產業的爆炸性技術進展。NNA是一種基本類型的處理器，很可能會跟CPU和GPU一樣的重要，而Imagination均已能供應這兩類的處理器。NNA的潛在應用是不可勝數的，包括：行動裝置中的攝影功能增強與預測輸入增強；AR/VR頭戴裝置中的特徵偵測與眼球追蹤；汽車安全系統中的行人偵測與駕駛警覺性監控；智慧監控系統中的臉部辨識與群眾行為分析；網路詐欺偵測、內容建議(content advice)、以及預測性UX；虛擬助理應用中的語音辨識與回應；以及無人機中的防撞與對象追蹤等。
根據嵌入式視覺聯盟於2017年1月進行的嵌入式視覺開發人員調查顯示，79%的受訪者表示他們已經利用或正計畫利用神經網路來執行其產品或服務所提供的電腦視覺功能。隨著科技持續的快速進展，更多的業者都將能夠利用神經網路來開發產品與服務。Imagination的客戶已為多個市場開發與佈署基於NN的系統，包括保全、行動、汽車與機上盒。
嵌入式視覺聯盟的創辦人Jeff Bier表示：「許多的系統與應用程式開發人員正採用深度神經網路演算法把新的感知功能帶到他們的產品之中。在許多案例中，主要的挑戰在於，需能為這些要求嚴苛的演算法提供足夠的處理效能，並同時滿足嚴格的產品成本與功耗的限制。像PowerVR 2NX NNA 這類的專用處理器，是專為神經網路演算法所設計，將能在許多新應用中推動這些強大演算法的佈署。」
隨著神經網路的日益普及，2NX NNA 這樣的專用硬體解決方案 ─ 與單純的DSP解決方案相比，它可提供8倍的效能密度提升 ─ 將能以最低的功耗與成本達到最高的效能。此外，傳統以來，神經網路非常耗費頻寬，因此記憶體的頻寬需求會隨著神經網路模型規模的增加而成長。這會為SoC設計人員和OEM業者在設計系統時，因為要提供NNA所需的頻寬而帶來重大的挑戰。PowerVR 2NX能最小化外部DDR記憶體的頻寬需求，因而確保系統的效能不會受到頻寬的限制。PowerVR 2NX NNA專用硬體的普遍運用，將能推動各種基於神經網路技術的應用程式的進一步發展。
PowerVR 2NX NNA可實現最高效率的解決方案
PowerVR 2NX是從頭開始的全新設計的架構，可提供：
• 業界最高的單位微瓦推論(inference/mW) 的IP核心，以提供最低的功耗*
• 業界最高的單位面積推論(inference/mm2) 的IP核心，可實現最具成本效益的解決方案*
• 業界最低頻寬的解決方案* ─ 支援權重與資料的高靈活性的位元深度，包括低至4位元的低頻寬模式
• 業界領先的效能，單一核心為每週期2048 MAC，並能採用多核心設計以進一步提升效能
PowerVR 2NX是從頭開始的全新設計的架構，可提供：
• 業界最高的單位微瓦推論(inference/mW) 的IP核心，以提供最低的功耗*
• 業界最高的單位面積推論(inference/mm2) 的IP核心，可實現最具成本效益的解決方案*
• 業界最低頻寬的解決方案* ─ 支援權重與資料的高靈活性的位元深度，包括低至4位元的低頻寬模式
• 業界領先的效能，單一核心為每週期2048 MAC，並能採用多核心設計以進一步提升效能
Imagination公司 PowerVR產品與技術行銷資深總監Chris Longstaff表示：「神經網路加速的專用硬體將成為未來SoC的標準IP模塊，就如同CPU和GPU一樣。我們很高興率先市場推出了完整的硬體加速器，能完全支援高精準度的靈活方式，使神經網路能以最低的功率與頻寬運作，並提供優於競爭方案的絕對效能與單位面積效能。我們提供的工具將能讓開發人員非常快速地啟用並執行其神經網路，因此能快速地增加營收。」
2NX包括硬體IP、軟體與工具，可為SoC提供完整的神經網路解決方案。它能有效地執行所有常見的神經網路運算層。依據其推論任務的運算需求，它能獨立使用 ─ 無須額外的硬體 ─ 或是與CPU和GPU等其它的處理器結合運用。
神經網路無所不在
PowerVR 2NX NNA是專為實現各種市場的推論引擎所設計，採用高度可擴充性架構，未來的各種解決方案也能適用。
行動：隨著Tensorflow Lite以及 Android API的即將發佈，再加上Caffe2Go框架的快速進展，我們將看到智慧手機的AI應用程式數量的快速爆發。業者需要高效率的方式來執行包括影像辨識、語音辨識、計算攝影等各種的推論任務。PowerVR 2NX是現今唯一的一套IP解決方案，能以低功耗、小面積、MMU和Android的計畫性支援，來滿足在行動解決方案佈署上的所有需求。在GPU不可或缺的行動裝置中，業者能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA整合在同一晶片中搭配運用，其佔有的晶片面積和競爭者所提供的單獨GPU的面積是相同的，但是所提供的功能相對強大許多。
智慧監控：家庭與商業場所安裝的監控攝影機數量正大量成長，將推動神經網路視覺處理的需求。基於這些技術的智慧型攝影機能被用來根據安全警示、零售分析、人口統計與互動等資料來制定決策。考慮頻寬需求、資料機密性與其他因素，攝影機的設計必須加入一定程度的「網路邊緣」(edge) 視訊分析處理的能力。由於這些攝影機通常沒有GPU或是僅有非常小的GPU，以及較低效能的CPU，因此它們需要一個高效率、高效能的獨立式神經網路加速器。 2NX NNA是理想的選擇，並且具備高度的可擴充性，能同時滿足消費性與商用的建置需求。
汽車：汽車的神經網路應用包括了駕駛警覺性監測、駕駛目光追蹤、座位使用、道路號誌偵測、駕駛路線分析、道路使用者偵測、駕駛辨識以及其他。隨著未來幾年自駕車與智慧型運輸系統的數量將日益增加，這些應用將持續擴展。在汽車系統中，需要2NX NNA 這樣的完整硬體解決方案，才能滿足相關的效能需求。
家庭娛樂：機上盒和電視將逐漸提供基於神經網路的解決方案，例如能夠適應特定使用者偏好的能力，提供自動的兒童鎖，以及根據使用者行為能够自動暫停與錄影節目。藉由這些特性，業者能提升其差異性並增加營收。要在這些裝置上建置神經網路的關鍵是高效率的頻寬與低成本，以及支援NN API ─ 這些都是2NX NNA的重要特性。此外，還有許多新興的NNA娛樂應用，包括AR/VR。
Nanjing Ruiyue科技公司是一家行動VR與AR的技術與服務供應商，該公司的共同創辦人暨副總裁 Tony Chia表示：「來自合作夥伴Imagination的創新技術是確保VR解決方案可為消費者提供高度沉浸式遊戲與視訊體驗的重要關鍵。我們對神經網路在VR/AR的潛在應用感到非常振奮，包括追蹤、控制、姿勢辨識、語音辨識、以及能增加更多的互動體驗。內建 PowerVR 2NX NNA的晶片組可提供所需的處理能力與功率效率，把VR/AR體驗推升到全新的境界。」
簡化開發人員的工作
Imagination可為開發人員提供所有必要的工具，讓他們能快速、輕鬆地啟用和執行其神經網路，並確保運算和頻寬能與準確度達到完美的平衡。PowerVR 2NX的開發資源包括映射(mapping)和微調工具、樣本網路、評估工具與文件。完整的 PowerVR NX Mapping Tool 能從業界標準的機器學習框架中，包括Caffe 和 Tensorflow，輕鬆地進行移植。高階的網路設計人員將能在2NX NNA 上設計與建置神經網路，以充分發揮其硬體特性。
Imagination亦可提供通用的Imagination DNN (深度神經網路) API，能在CPU、GPU與NNA之間輕鬆移轉。此單一的API能夠在橫跨多種SoC的配置上執行，因此能在現有的裝置上輕鬆開發原型程式。
編者按：
*根據2017年8月來自不同來源的可取得市場數據
*根據2017年8月來自不同來源的可取得市場數據
關於Imagination Technologies公司
Imagination是全球性的科技領導者，其產品已廣為世界各地數十億名消費者所使用。Imagination擁有完備的矽晶IP(矽智財)產品組合，包括創建SoC(系統單晶片)所需的關鍵處理功能模塊，可用來開發各式各樣的行動、消費性和嵌入式電子產品。該公司獨特的軟體、基礎架構技術以及系統解決方案能協助客戶快速地開發出完整、且具備高度差異化特性的SoC平台。Imagination的授權客戶包括多家全球領先的半導體製造商、網路業者以及開發出全球最具指標性產品的OEM/ODM業者。更多訊息，請瀏覽www.imgtec.com。
Imagination是全球性的科技領導者，其產品已廣為世界各地數十億名消費者所使用。Imagination擁有完備的矽晶IP(矽智財)產品組合，包括創建SoC(系統單晶片)所需的關鍵處理功能模塊，可用來開發各式各樣的行動、消費性和嵌入式電子產品。該公司獨特的軟體、基礎架構技術以及系統解決方案能協助客戶快速地開發出完整、且具備高度差異化特性的SoC平台。Imagination的授權客戶包括多家全球領先的半導體製造商、網路業者以及開發出全球最具指標性產品的OEM/ODM業者。更多訊息，請瀏覽www.imgtec.com。
關注Imagination動態，請連結Twitter、 YouTube、LinkedIn、RSS、Facebook和Blog。
Imagination、PowerVR和Imagination Technologies標誌是Imagination Technologies Limited和/或其關係企業在英國和/或其他國家的商標。Khronos、Vulkan、OpenCL和OpenVX是 Khronos Group Inc.的商標。所有其它的標誌、產品、商標和註冊商標為其個別擁有者的財產。
