當前位置： 主頁 > 新聞 >

益登科技以NVIDIA技術推動Edge AI落地

本文作者：益登科技點擊： 2026-07-28 10:39

前言：

整合開源AI生態與系統最佳化，協助企業降低大型AI模型部署成本

2026年7月28日--亞洲最佳解決方案合作夥伴益登科技（TWSE: 3048）宣布深化與NVIDIA合作，整合NVIDIA Edge AI平台、開源模型(Open Source Model)與系統最佳化技術，協助企業降低大型AI模型部署門檻，加速Edge AI應用落地。隨著生成式AI快速從模型驗證走向實際應用，企業關注的焦點也開始改變。比起一味追求AI模型規模，如今企業更重視如何讓AI能在既有硬體平台上穩定運行、快速部署，並兼顧整體建置成本與投資效益。從智慧製造、自主機器人到智慧醫療，Edge AI已成為推動企業數位轉型的核心，而高效率的部署能力，更是決定Edge AI專案能否成功落地的關鍵。

目前企業導入AI的模式，已由自行訓練模型，轉向採用成熟的基礎模型(Foundation Models)與開源AI生態，加快開發速度，再依不同應用需求進行最佳化與部署。然而，模型能力持續提升，也讓記憶體容量、推論效率及系統整合成為新的挑戰。益登科技整合NVIDIA Jetson平台、NVIDIA JetPack、NVIDIA CUDA、NVIDIA TensorRT、NVIDIA Jetson AI Lab等開發資源，並結合主流開源模型及推論框架，提供從平台選型、模型導入、模型量化(Quantization)、記憶體最佳化(Memory Optimization)到系統驗證的一站式技術服務，協助企業提升既有平台的資源使用效率，降低整體導入成本，縮短從概念驗證(PoC)到量產導入的時程。以NVIDIA公開展示的Reachy Mini Jetson Assistant為例，透過採用Headless Mode、NVIDIA Cosmos-Reason2開源視覺語言模型(Vision-language Model, VLM)、模型量化及最佳化推論框架等技術，即可在NVIDIA Jetson Orin Nano 8GB平台上，同時執行視覺語言推論、語音轉文字(STT)及文字轉語音(TTS)等多模態AI工作流程；展現透過軟體與系統最佳化，即使在有限的硬體資源下，仍能在裝置端高效率運行多種AI模型，同時降低記憶體使用量。類似架構也逐漸應用於智慧製造、自主機器人及智慧醫療等場域，例如產線設備巡檢、智慧影像辨識、語音互動及自主決策等應用，都可直接於裝置端完成AI推論，兼顧即時反應、資料安全與整體營運效率。

益登科技執行長于俊潔(Jeffrey Yu)表示：「生成式AI已經進入落地應用階段。現在企業最大的挑戰，不是找不到AI模型，而是如何把AI穩定部署到產品與實際應用場域。很多專案最後勝出的關鍵，不在於硬體規格，而是部署效率、系統整合能力以及整體投資效益。益登的角色不只是提供平台或元件，更協助客戶整合NVIDIA平台、開源AI生態與系統最佳化技術，縮短從技術驗證到產品上市的時間，降低AI專案導入風險，讓AI更快創造實際商業價值。」

憑藉多年Edge AI與嵌入式系統整合經驗，益登科技提供涵蓋以NVIDIA技術驅動的選型、開源AI模型整合與應用最佳化、硬體設計到系統導入的一站式解決方案，目前已協助客戶將Edge AI應用於智慧製造、自主機器人、智慧醫療、智慧零售及智慧城市等領域。未來，益登將持續與NVIDIA及開源生態夥伴合作，協助企業突破大型AI模型導入限制，加速AI從概念驗證邁向規模化應用，讓創新技術真正轉化為產業價值。

參考案例

 NVIDIA Reachy Mini Jetson Assistant: https://developer.nvidia.com/blog/maximizing-memory-efficiency-to-run-bigger-models-on-nvidia-jetson/

 完整記憶體最佳化指南請參考益登技術文章：https://www.edomtech.com/zh-tw/article-detail/memory-optimization-strategies-for-scaling-ai-models-on-nvidia-jetson/

關於益登科技

不僅是元件代理，更是您的最佳解決方案合作夥伴

益登科技成立於1996年，為亞洲最佳電子元件代理商與解決方案供應商，總部設立於台北，為亞太區以至全球的ODM/OEM客戶、原廠提供一流的服務和解決方案。益登科技多年來深耕各項應用領域，引領潮流之先，涵蓋的產品應用範圍包括可攜式/穿戴式產品、有線/無線通訊、物聯網、汽車、機器人、醫療、工業控制、電腦以及各式各樣的電子產品，在光電、數位、類比、混合訊號等領域深具技術經驗，提供全面的服務與方案，可作為原廠、客戶、合作夥伴之間溝通的最佳橋樑。更多資訊請瀏覽網站www.edomtech.com

本月熱點 HOME

欄目熱點 HOME