當前位置: 主頁 > 新聞 >
 

Arm 將 Kleidi 擴展到車用市場,加速提升 AI 應用的效能

本文作者:Arm       點擊: 2025-03-12 11:50
前言:
2025年03月12日--Arm 控股有限公司(納斯達克股票代碼:ARM,以下簡稱 Arm)宣佈將 Arm® Kleidi 技術擴展至車用市場。Arm Kleidi 是一項廣泛的軟體及軟體社群參與計畫,其目標在於加速人工智慧(AI)的發展。透過 Arm Kleidi,合作夥伴將可充分發掘下一代特定應用 AI 模型在汽車中的優勢,並加快其部署速度。

Arm 車用事業部產品與解決方案副總裁 Suraj Gajendra 表示:「在汽車產業中,AI 通常被稱為自動駕駛汽車的核心—聽起來頗具未來感,距離其大規模量產上路還有數年時間。然而,實際的情況是,當下新車型中的很多應用和功能,從自我調整巡航控制、個性化車載資訊娛樂系統到駕駛和乘客監控系統,都已使用 AI 技術,並且這些特定應用的模型和工作負載已在 Arm 平台上高效率地運行。這歸功於 Arm 運算平台卓越的靈活性、效能、效率和可擴展性,使其成為整個汽車產業中開發人員的首選平台。」

然而,隨著這些汽車應用與功能日益精進,對更多的 AI 功能與日益複雜的工作負載的需求不斷提高,汽車產業正面臨著一系列獨特的挑戰,包括: 
 
相較於其他產業,汽車產業擁有龐大而複雜的軟體系統,使得開發環境極為複雜。 
需要一個強大的從雲端到車端的軟體發展和驗證基礎設施,以便將雲端開發的應用無縫部署到汽車中。 
軟體必須符合嚴格的汽車功能安全和資訊安全方面的產業標準和法規。 
汽車的使用週期較長,這代表軟體必須具備升級能力,以適應未來不斷新增的功能和更新(類似在最新軟體版本發表時對智慧手機進行同步更新,但汽車的產品週期要更長)。 

Arm 透過領先的車用強化(AE)技術和在汽車生態系中的合作,來應對這些獨特的挑戰。這些合作涵蓋了虛擬平台和基於標準的軟體解決方案,透過嵌入式邊緣裝置的可擴充開放架構(SOAFEE)來加速汽車開發週期。所有這些解決方案都為開發人員提供了工具,使他們能夠透過應用廣泛的 Arm 運算平台,無縫地獲取更高的效能,並加快其產品的上市時間。

利用 Arm Kleidi 實現效能自動優化

Arm Kleidi 於 2024 年推出,其目標在於為 Arm CPU 上運行的 AI 推論工作負載提供軟體效能優化,開發人員無需進行任何額外的工作。目前該軟體庫已應用於行動裝置端、雲端服務和資料中心等關鍵領域,包括 Kleidi 已被整合到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門 AI 框架的最新版本中,開發人員只需開始建構應用程式,即可在基於 Arm 架構的平台上自動獲取效能的顯著提升。

Kleidi 的效能優化特性已導入車用市場,領先的科技公司已在他們的汽車軟體中,體驗到一系列新應用的效能提升。從車載聊天機器人、個性化駕駛建議,到圖像和運動強化以輔助使用者、診斷和解決問題,Kleidi 函式庫與關鍵的開發人員框架的整合正在加速 AI 應用的開發,為使用者提供更快、更高效率的車載體驗。

AWS Automotive 將車載聊天機器人的回應速度提高了 10 倍 
運用 Arm 與 Corellium 聯合開發的虛擬平台,亞馬遜網路服務公司(AWS)為軟體定義汽車(SDV)打造了一款全新的概念驗證(proof-of-concept)AI 聊天機器人,可讓駕駛直接與汽車進行互動,提出問題或詢問儀表板警報,而無需翻閱汽車用戶手冊。借助整合了  KleidiAI 的最新版 Llama.cpp 開發聊天機器人,AWS 實現了其聊天機器人效能的顯著提升,回應時間縮短至一到三秒,效能提升達 10 倍。由於開發人員無需在底層軟體優化花費心力,KleidiAI 為聊天機器人的開發節省了六週時間。

VicOne 加快了對汽車網路安全威脅的應對速度 
VicOne 針對 SDV 的 xCarbon 車載解決方案,能使車輛學習和識別網路安全威脅,減少對雲端技術的依賴,進而降低成本,為資料安全提供更好的保護。借助 TinyLlama-1 1B 模型,VicOne 解決方案的效能達到顯著提升,預填充提示速度翻倍,詞元生成速度提升了 60% 以上,進而縮短了車輛檢測網路安全威脅的回應時間。Kleidi 實現的效能優化使 VicOne 能夠在無需額外開發工作的情況下,為使用者帶來更安全、更可靠的駕駛體驗。

Sonatus 專為 OEM 打造的 AI Technician Builder 平台,能夠無縫運行於基於 Arm 架構的 AWS Graviton CPU
Sonatus 的 AI Technician Builder 是一個從雲端到邊緣端的平台,可展現 OEM 廠商創建客戶服務代理,以迅速回應使用者對汽車的詢問,進而改善駕駛體驗。該平台最初運行於雲端環境的 GPU,而透過導入 Kleidi 優化框架,現在它可輕鬆移植到搭載 Arm 架構的 AWS Graviton EC2 雲端執行個體上運行。這不僅確保了使用者所需的性價比和回應時間,還為在基於 Arm 架構的汽車運算平台上運行邊緣 AI 工作負載做好準備。

在 Arm 平台上推動汽車及其他領域的 AI 創新

如今,全球 94% 的車廠都在其最新車型中使用了 Arm 技術。Arm 運算平台在汽車領域的廣泛應用,說明其在推動關鍵車載 AI 應用、實現顯著效能優化方面具備得天獨厚的優勢,AWS、VicOne 和 Sonatus 的成功實踐便是很好的例證。將 Kleidi 整合到現有的軟體堆疊中,推動了更高效率、更先進的 AI 應用場景的實現,並為那些分秒必爭的關鍵汽車應用提供了更快的回應速度。 這賦予了開發人員超能力,使他們能夠在 Arm CPU 上優化並運行新的特定應用的 AI 模型和工作負載,而無需額外的成本或開發工作量。

透過將 Kleidi 擴展到車用領域,Arm 持續實踐其承諾—為包括從雲端到邊緣端的各個 Arm 應用市場的 AI 開發人員提供無縫的效能加速,協助其打造有吸引力的全新使用者體驗,不斷發掘 AI 變革的潛力。 
 
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,000 萬名軟體開發人員的共同努力,我們正在 Arm 平台上建構 AI 的未來。   

所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited. 
 
 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11