2021年10月21日--人工智慧與機器學習主宰了現今的科技世界，對於未來的影響力更是指日可待。無論是企業界、學術界、乃至於我們的生活周遭，在 AI、ML 的幫助下，整個大環境無不朝著更便利、更智慧的方向邁進。本次演講從技術面、企業面、與教育面等三大面向，分享 Edge AI 如何與 CPU、GPU、NPU 相互搭配、面對各種迎面而來的挑戰，構築未來的 AI 世界。
與談人：
• Arm 應用工程總監徐達勇
• Facebook AI Research 部門李憲信博士
• 國立成功大學 敏求智慧學院林偉棻博士
Arm：異質運算趨勢
1) 沒有一體適用的運算架構：AI無所不在，應用場域包括智慧家庭、智慧城市，智慧醫療、智慧工廠等，以裝置來說，從最小的智慧感測器到雲端，都有AI的應用。不同的裝置對 AI 運算效能需求與功耗限制就不同，很難有一體適用的架構可以滿足所有裝置的要求。
2) 特定運算需求增加：不同的應用需要不同的處理器，CPU、GPU、NPU、MicroNPU 等，這就是特定處理器或特定運算。從系統和工作負載的角度，在不同的應用場景下，找到最優化的架構、最合適的處理器配置。
3) 開發人員需要快速移植演算法：開發人員需要很快將它們的創意演算法，快速的移植到不同的硬體上，因此 Arm 也提出了各式開源的工具與軟體架構，例如 SDK Arm NN、運算函式庫，以及為 Cortex-M 使用的 CMSIS NN，幫助開發人員極大化 AI 的效能。
AI Edge 面臨的挑戰
成功大學：學術界的角度，是專注於在 AI 的應用以及它底層的運算。AI 應用相當碎片化，各行各業都加入了 AI 的元素，但每個應用的情境、場景和需求的條件不一。因此學生應該具備哪些不同知識領域和基礎能力，好讓他們足以因應 AI 領域的發展，這是教育場景中面臨的挑戰之一。
Facebook：Edge AI 是面對使用者的部分，但今天的運算模型已經延伸至整個雲端。從業界角度特別重視幾項需求：一、延遲性，當有工作負載要求進來時會怎麼反應，尾遲延（Tail Latency）的表現如何。二、效率，從資料中心到使用者的 Edge 端，效率都是重要考量，也和如何降低功耗有關。三、隱私保護，當許多 edge 裝置傳輸許多資料到雲端進行運算，如何透過法律與技術層面，確保資訊的安全也相當重要。
AI 倫理的兩難和相關人才的培育
Arm：去年八月Arm 曾委託 MIT Technology Review Insight團隊，就 301 位企業高階主管進行訪問，其中一個題目問到「在 AI 世界最擔心的事」。受訪者表示他們最擔心 AI 技術被惡意使用。因此，資訊安全與隱私權的保護相當重要，其次是 AI 技術必須避免偏見，第三 AI 技術要能保護人身安全。此外，AI 應用的責任歸屬也需要更進一步的規範，例如 AI 機器故障、執行錯誤指令後的責任歸屬，都值得探討。
在 AI 人才培育方面，除了AI 本身的專業學習之外，培養不同領域的 domain knowledge 也很重要，也就是博雅學習或者人文方面的學習。其次是產業接軌，將 AI 應用到例如不同產業領域如醫療、或者社會科學研究。Arm 經常與學校或者與 Maker 合辦活動，讓學生或開發人員可以儘早了解產業脈動。
成功大學：AI 倫理是我們教學的一環。從教學目標與角度來看，我們重視的是跨領域的學習以及系統整合能力。敏求學院的學生來自不同背景，他們希望學習 AI 的知識與技術，帶回到自己的領域應用，但這也增加教學上的挑戰。對有電資背景的學生，目標放在培養跟 AI 產業的整個技術開發，做研究與實作上的接軌；沒有電資背景的學生，則會針對 AI 應用層面做較多方面的探討與知識教學。
學院也對社會人文的關懷議題非常重視，AI 道德議題是我們研究領域中重要的題目。例如自駕車，產業發展在前，法規監管在後，很容易產生爭議。在學校已經有許多相關課程，希望透過不同角度的討論，能夠提供更多的看法，當制定法律時，可有一個較為持平且有效的解決方法。
Facebook：Facebook 是個社群平台，與AI結合後，希望能夠解放資訊與知識，讓資訊與知識在人際間更暢通。但 AI 一旦被用在反向的目的，就成為有心人士的武器，用來打壓反對的聲音。因此Facebook也運用 AI 去除這些數以百萬計的假帳號。但現在還有深度造假（Deep Fake）這類技術，可以無中生有。因此，也需要更高的 AI 技術，將這些深度造假的內容找出來。其他包括仇恨言論的判斷，文字加上圖片的綜合理解能力，以及如何預防 AI 傷害人類等等，這些題目都很困難，不是單靠技術就可以解決。
人才教育部分，首先是應該將 AI 看成是未來最重要的一個技能，應該在各系加入 AI、機器學習的課程。把 AI、Machine Learning 當作一個工具，幫助學生未來在各個專長領域裡的應用。同時，也建議學校裡要提供使用 AI 的新手規範，讓年輕人面對即將來臨的 AI 世代，了解如何應對它對工作、政治、環境污染、甚至對人類的影響。這個技術將與社會科學有越來越多的結合。
對未來十年AI社會的想像
Facebook：從社會層面看，在AI提供人們越來越多便利後，許多工作正在消失，我們是否準備好因應那樣的未來社會。從技術層面看，人們未來的互動方式除了在實體世界，也將包括一個虛擬世界，運用社群平台，加上終端裝置和 AR、VR、雲端運算，促進更多在不同地方的人可以一起互動。樂觀的想，未來生活將是非常豐富；另一方面，AI 將帶來許多新的問題，現在就必須預想解決方式。
成功大學：AI 已經在教育現場產生影響。全世界各國基本上都已經把 AI 列為在課綱，或是各級學校教學的重點。對於 K12 以下的學生或一般民眾， 教育重點是希望所有人，漸漸地開始有 AI 素養，培養與 AI 共處的能力跟良好的心態，以及對於AI世界產生的各項社會議題、人文關懷以及道德議題，都能夠有所了解。
Arm：AI 技術發展得非常快速。AI 的應用，例如實境跟虛擬的結合，天上飛的無人機，地上跑的自駕車，不到 10 年大家都可以看到這些技術。但無論什麼樣的應用，最基本的就是它的運算能力需要能滿足應用的需求。運算能力不只是在 IP 上或是 SoC 上的進步，也包含製程、材料，及各個不同領域的貢獻，才能推動 AI 技術的進步。
歡迎至 Arm DevSummit 活動網頁觀看精彩演說：https://devsummit.arm.com/zh（所有演講場次將於直播後 24 小時後上架回放影片）
關於 Arm
做為運算及連網革命的核心，Arm 的技術正改變著人們生活及企業運作的方式。Arm 先進的低功耗處理器設計與軟體平台，已促成 2,000 億顆晶片的先進運算，我們的技術安全地驅動包含感測器、智慧型手機甚至於超級電腦等各式應用的電子產品。Arm 攜手超過 1,000 家的技術合作夥伴，將前端的設計、安全、管理，全面應用在從晶片至雲端所有連結 AI 運算的領域。
所有資訊都「依目前情況」提供，且並不帶保證或代表性。此一文件可以自由分享，但不得修改且必須註明出處。Arm是Arm Limited（或其子公司）的商標或註冊商標。所有其他品牌或產品名稱乃為所屬個別公司之財產。© 1995-2021 Arm Group
