2025年1月16 日--全球邊緣運算領導品牌凌華科技(股票代號:6166)宣布推出全新「DLAP Supreme」邊緣生成式AI平台系列,通過整合群聯電子的創新AI解決方案aiDAPTIV+,突破地端生成式人工智慧(AI)應用中的記憶體限制,顯著提升地端設備的AI運算能力。「DLAP Supreme」系列在不增加高昂硬體成本的情況下,實現AI效能的顯著擴展,幫助企業降低AI應用部署的成本門檻,並加速生成式AI在各行各業的落地應用,尤其在地端AI運算領域。
突破AI運算成本,顯著提升效能
隨著生成式AI逐步滲透至各行各業,許多地端設備在執行大型語言模型時,面臨因DRAM容量不足而造成的性能瓶頸,影響模型運行,甚至出現Token長度不足等問題。DLAP Supreme系列利用aiDAPTIV+技術,有效突破這些限制,並顯著提升運算效能,藉此支援地端設備進行生成式語言模型訓練,使邊緣設備具備AI模型訓練能力,並提升其自主學習與適應能力。
以DLAP-411 Orin Supreme搭載NVIDIA Jetson AGX Orin 32GB組態搭配上Gemma 27B模型為例,其推論的TTFT提升了8倍,token長度提升了4倍。並且可以執行需在H100/A100 80G tensor core GPU才能運行的模型訓練任務,顯著的提升了運行生成式AI模型的效能,並且大幅度降低了部署生成式AI的成本。
深度合作,打造更可靠的AI應用方案
凌華科技邊緣運算平台事業處總經理陳少華表示:「我們希望通過DLAP Supreme系列,幫助更多企業和機構輕鬆導入生成式AI技術,並在降低成本的同時,提升效能。我們將繼續與群聯電子及全球AI領域的合作夥伴攜手合作,共同打造多方協作的AI應用生態圈,推動生成式AI技術的普及。」
群聯電子執行長潘健成表示:「群聯與凌華在工控儲存市場攜手合作已超過十年,一路以來,我們共同推動技術創新,致力於為產業提供最具價值的解決方案。這次,群聯推出的邊緣AI技術方案 aiDAPTIV+,很高興能協助凌華打造以 NVIDIA Jetson AGX Orin 平台為基礎的全新DLAP Supreme邊緣生成式AI系列,這不僅是一項重要的合作里程碑,更將在邊緣AI的發展上掀開新篇章。透過雙方的深度合作,我們將共同加速並擴大邊緣AI在模型fine-tuning的應用及市場,特別是在智慧製造、智慧城市及其他產業場景中的實際應用。我們相信,這樣的合作不僅能夠滿足市場對邊緣AI的需求,更能推動產業邁向更智慧、更高效的未來。」
開拓更多應用場景,支持多樣模組
DLAP Supreme系列的推出,不僅為地端生成式AI應用開創了全新機會,還將幫助各行各業突破記憶體限制,充分釋放AI技術的潛力。除了對AGX Orin進行突破性優化外,aiDAPTIV+技術同樣能擴展入門級的Orin Nano、NX及Super模組的記憶體,支持更多設備進行更高效的AI運算。凌華科技計畫持續推出Orin Nano Super與NX Super版本,進一步擴大DLAP Supreme系列的應用範圍,滿足不同需求的AI運算場景。
*此產品預計於 2025 年 2 月正式發表
關於群聯電子
群聯電子 (Phison Electronics Corp.) (TPEX:8299) 為全球快閃記憶體(NAND Flash)控制晶片及儲存解決方案領導廠商。身為快閃記憶體專家,從IP技術授權、晶片設計、系統架構解決方案、系統整合、成品,提供不同需求的客戶最佳的產品及服務。在各項產品類別上,包括SSD (PCIe/SATA/PATA)、eMMC/UFS、SD、或是USB介面皆可提供完整的儲存解決方案,客戶應用亦遍及各類消費性電子、企業級、以及工業車用。在標準制定上,群聯電子擔任SDA、ONFI、UFSA的董事會成員,並積極貢獻JEDEC、PCI-SIG、MIPI、NVMe、IEEE-SA等規範。
關於凌華科技
凌華科技(股票代號:6166)引領邊緣運算,是推動 AI 人工智能世界的催化者。我們製造並開發嵌入式、分佈式與智能運算之邊緣運算硬軟體解決方案,全球超過1600多家客戶信任凌華科技科技,選擇我們作為其關鍵任務成功的重要夥伴,從加護病房的醫療電腦,到全球第一台高速自動駕駛賽車,都有我們的足跡。
凌華科技是Intel、NVIDIA、AWS 和 SAS的重要合作夥伴,同時也參與Intel顧問委員會、ROS 2技術指導委員會以及Autoware自動駕駛開源基金會。我們積極參與開源技術、機器人、自主化、物聯網、5G等超過24個標準規範的制定,以驅動智慧製造、網路通訊、智慧醫療、能源、國防、智能交通與博弈娛樂等領域的創新。
凌華科技擁有共1800多名的員工和200多家合作夥伴。29年以來,我們秉持推動當今和未來的技術,創新科技,轉動世界。
所有商標均為其個別擁有者在美國及其他國家/地區的財產。