受訪者:意法半導體亞太區人工智慧技術創新中心暨智慧手機技術創新中心資深經理Matteo MARAVITA
AI是一項真正能改變許多事情的變革性技術。我們認為，AI對於建立未來連網世界至關重要，因為這是一個由數十億個裝置構成之萬物智慧的世界，它們具有更高的安全性、連線性和智慧，我們稱之為雲端連接智慧邊緣。我們認為，這些裝置將具有更強的自主能力，將有更多的裝置連接到雲端，不僅是資料量在提升，而且在地資料處理能力也在提升。這些裝置將覆蓋日常生活的各層面，可以在家裡、工廠、公司、城市和大樓以及交通出行解決方案中看到它們的身影。
AI研發計畫十年有成
================
ST約在十年前就開始展開AI研發計畫。ST從機器學習技術的基礎研究開始，專注幾年後即將成為焦點的邊緣裝置。因此，機器學習技術專門針對硬體資源受限的裝置。2018年，ST推出第一個STM32 AI函式庫，即知名的STM32Cube.AI函式庫供客戶使用，並從那時起ST與客戶合作開發了許多專案。ST推出首款具有機器學習模型硬體加速器的感測器，即內建MLC機器學習核心的MEMS感測器。同年我們加入了TinyML聯盟，並從第二年開始將人工智慧的佈局並將支援範圍擴大到其他晶片，例如，車用微控制器和Linux相關產品，例如，STM32微處理器。因此，在2021年，ST推出了新的AutoML工具生態系統NanoEdge AI，一年後，即2022年，ST再推出新款具有更先進之硬體加速器的MEMS感測器，能夠在同一感測器內運行較小的深度學習網路。2023年，ST不斷改進軟體生態系統，推出STM32開發者雲端模型庫，並更新了Stellar系列車規MCU工具。
ST現在擁有各種軟體產品，很快就會推出具有AI硬體加速器的MPU和MCU產品。目前，ST支援許多客戶部署邊緣AI的解決方案。同時，ST也在加強與客戶和生態圈的合作關係，同時深入參與客戶的概念驗證原型開發專案，透過這些活動掌握邊緣AI的創新機會，協助客戶進行產品創新。
此外，這也有助於ST拓展業務，因為ST有機會為客戶提供各種產品，不僅是微控制器，還包括感測器和平台中的所有裝置，並真正建立一個生態系統。當客戶想到嵌入式AI的時候就會想到ST。
AI工程師開發邊緣AI解決方案
========================
如果我們想要開發邊緣AI解決方案，我們需要擁有多種開發技能之不同類型的AI工程師。針對不同的工程師要求也不盡相同。軟體工程師，即嵌入式軟體工程師，需要關注實現邊緣AI以及如何將其整合到整個系統中，因此，這類工程師可能從可靠的範例專案著手開發，並根據特定應用狀態來修改參考設計。機器學習工程師或AI工程師，又或者是資料科學家則主要聚焦於機器學習模型的研發，不僅致力於機器學習模型的資料集，還需要根據目標硬體裝置來優化模型。硬體工程師需要一個簡單的對標測試工具，在不同的硬體平台或不同的元件上測試資料科學家所提供的進階演算法，並在性能、功耗、大小、價格中找到最佳的方案。
至於ST如何創新邊緣AI？我要說的是，今日 ST 被公認為全球邊緣AI大廠之一，這要歸功於我們近10年來的努力，這是有目共睹的。我們的創新有三個重點：第一個是將整合AI硬體加速器的硬體產品；第二個是配套軟體工具，我們看到了具體的AI函式庫、ST Edge AI Suite、AI專用編譯器等；第三個是為客戶提供參考設計和概念驗證原型，協助他們利用AI進行產品創新。
汽車產業對於邊緣AI來說是一個更大的機會
==================================
我們以車用感測器為例。ST正與HPE集團合作，利用邊緣AI優化電動汽車的馬達運作。我們正在開發名為「虛擬感測器」的解決方案，這個AI演算法運行在我們最新的Stellar系列車規微控制器上，透過感測器取得馬達運作資料，使用這些資料來推斷和估計無法直接測量的馬達內部溫度。這個演算法運作於車規微控制器上。而這個車規微控制器不僅能執行人工智慧，還驅動馬達，同時還能執行額外的預測性維護AI演算法，以辨識減震、機械和電氣系統中可能存在的異常狀態。
此外，汽車產業對於邊緣AI來說是一個更大的機會。大家可能知道，AI在車用領域最出名的應用範例是ADAS自動駕駛。不僅如此，我們還可以看到AI正在幫助汽車避免車外發生的意外事故和危險情況；在車內，我們注意到很多客戶在開發車內監控系統，偵測車內可能存在的危險情況，我們可以監視駕駛的駕車狀態，例如，駕駛是否困倦或疲勞，並發出警報喚醒駕駛，防止意外或危險情況發生。甚至可以更深入汽車內部，我們很快就會看到邊緣AI在車內的應用普及，並與多個感測器整合，可能出現不同類型的使用案例，一個可能的例子是監測電池的健康狀態。但是我們也可以辨識系統中可能存在的異常，例如結合使用MEMS加速器來偵測系統中的振動。
優化筆電節能策略
==============
讓我們來看下一個範例。我們正在與電腦和筆電市場的領導廠商惠普合作，使用智慧感測器技術，透過避免過熱和耗盡電力來優化筆電的電源監控。該解決方案主要是採用ST的六軸IMU MEMS感測器，ST工程師和惠普工程師共同合作，在不同環境下收集IMU感測器的數據，並根據不同裝置和使用者動作來開發和訓練AI模型。我們想要辨識特定的使用情境，例如，當使用者將筆電合上後放進電腦包之前，需要關閉系統避免機器過熱，但有時我們在裝入電腦包前會忘記關閉電源，導致筆電腦溫度被得非常高，並且電池很快就沒電了。因此，我們全面收集各種資料，合作開發機器學習模型，一旦機器學習模型通過驗證，我們將整合該演算法到智慧感測器內。
先進的馬達控制演算法
=================
接下來看一個最新的例子，這是一種我們非常熟悉的應用，它已經存在於日常生活中幾十年了，這就是洗衣機。現在的洗衣機已經歷經了許多轉變，特別是提升馬達的控制性能。相較於15或20年前的洗衣機，現在洗衣機的馬達性能更高，而且用電量更少。我們試圖藉由AI改良洗衣機。首先，STM32微控制器可以控制洗衣機的馬達運作，而這個微控制器還能執行AI演算法。馬達控制器演算法將馬達的電流狀態發送至AI演算法，而AI演算法則使用該資訊來估算待洗衣服的重量。大家知道，更準確地估算衣服重量將有助於選擇對應的洗衣行程，使用所需的電流驅動馬達，並減少整體用水量和洗衣精、資料接收器和整體功率的使用。這可以為一個洗衣行程節省15到40%的能源和水。不僅是提升效能，我們還執行AI演算法提前偵測滾筒在旋轉時可能發生的碰撞，以及可能撞擊洗衣機外殼的狀況。該演算法仰賴ST的六軸 IMU感測器，使整體解決方案更加穩定。因此，透過這些範例，大家可以瞭解到，許多公司、應用和市場的工程師們都非常期待在他們的產品中整合人工智慧。
STM32為邊緣AI 基準測試做出貢獻
============================
我想強調的是，就目前而言，當談到通用微控制器時，STM32是MLPer Tiny基準測試中所提交之專案數量排名第一的解決方案，在所有提交的專案就有73%是採用了STM32。這代表ST十幾年的努力終於得到回報，我們看到大量開發人員正在ST的平台上開發和探索邊緣AI。我認為這與三個主要因素有關。第一點是我們在通用微控制器、工業和消費性微控制器市場的優勢地位，STM32適用於工業和消費性應用以及我們為邊緣AI 基準測試做出的貢獻，例如，大家現在看到的MLPerf Tiny基準測試；最後一點是，我們的線上平台，即STM32 AI開發者雲端平台可協助客戶和開發人員利用我們的線上工具和各種STM32開發板輕鬆測試他們的模型。我們相信，上述幾點都鼓勵了使用者利用STM32進行廣泛的AI創新。
邊緣AI帶來的好處
===============
我們已經看到，AI的應用正在激增，而且邊緣AI也將普及，包括大型模型。因此，目前很難確定到底哪一種應用將會有較高的成長動能，因為確實有很多個人電子、工業或車用領域將受益於邊緣AI。我們認為，對於智慧建築、資產追蹤尤其重要。而且，我們還注意到，邊緣AI在工業市場成長的速度非常快，僅舉幾例，預測性維護智慧感測器可以幫助偵測馬達或風扇運作的異常情況，這有助於顯著優化系統，及早發現問題，以及預防故障發生，這些改善有助於大幅提升生產率。
我個人認為，可以將邊緣AI為這些應用帶來的好處分為三類。第一類是提升性能。 受益於AI技術，終端產品的性能將變得越來越好。第二類是增加產品在極端情況下的韌性。通常在偵測某些物件時，可能會遇到一些極端情況，導致標準演算法的效果不盡人意，而AI演算法可以協助解決這個問題。第三類是為終端產品中增加過去沒有的新特性和新功能，協助客戶提升終端產品的創新性和吸引力。
就IC和製造方面的變化而言，我們看到最大的變化不是IC設計本身（顯然，晶片研製本身會有一些變化，因為我們導入了NPU和IMC等新技術），而是在終端產品的設計和製造。在設計終端產品時，客戶需要在建立資料集、測試和製造過程中嵌入新的流程，因為人工智慧功能需要經過專有的測試才能進入市場上。這是我在這個產業看到的重大變化。
開發人員需要徹底轉變思維，從「如果-則-否則」（“if-then-else”）的傳統演算法轉向專注於資料集的AI演算法。乍看之下很明顯，但實際上在驗證整體解決方案時需要轉變思維，而且需要更多地關注應用的定義、資料集的建立及驗證。
