2024年12月26日--有鑒於生成式AI(GenAI)已成為驅動創新與轉型的關鍵力量,大聯大友尚集團以「邁向GenAI Supercycle,共創未來」為主題、盛大舉辦「GenAI生態夥伴論壇」,匯集群聯電子、滿拓科技、創鑫智慧、研華科技、數位無限科技等產業領袖,共同就不同AI議題進行深入探討,勾勒出AI技術的發展藍圖,展現AI生態系夥伴在AI領域的深厚實力,及在全球AI供應鏈中的重要地位。
友尚集團由半導體通路出發,串聯AI生態夥伴
友尚執行長何澎雄致詞表示:「感謝各位蒞臨友尚GenAI生態夥伴論壇。在AI快速發展的時代,生成式AI已成為產業創新的重要推手。友尚將持續扮演AI生態系統中的關鍵角色,協助夥伴加速AI技術的導入與落地,攜手迎向AI的黃金十年,共創智慧未來。」
友尚執行長特別助理陳威光強調,友尚從半導體通路商出發在AI產業中扮演價值與資訊串接的關鍵角色,致力於讓各方的價值和服務能夠緊密整合,最終實現AI的落地應用。透過完整的組織架構與清晰的分工體系,友尚設立AI Sales Champion、AI PM Champion、LLM大語言模型部署工程師以及AI生態鏈合作四個關鍵角色,為合作夥伴提供全面支持,並服務兩岸三地超過3000家各個應用領域客戶,實現AI應用的全面落地。
隨著大語言模型推論市場將蓬勃發展,為持續擴大與生態系夥伴合作的能量,友尚自2024年8月啟動建立生態系統的新策略,截至12月,已有涵蓋PaaS、SaaS和SI等不同類型的10家企業簽署合作意向書,大幅擴大友尚的生態網絡。友尚也將AI應用分為五大區塊,建立完整分類系統,更好地整合和管理商機。迎向2025年,友尚將持續在兩岸三地推動AI相關資訊的分享、交流與媒合,扮演價值鏈串接的關鍵角色,並提供技術支援方案,期望成為合作夥伴在AI領域的重要戰略夥伴。
平民化AI解決方案
群聯電子業務資深處長蔡慧貞發表演說時表示,群聯秉持實現「平民式 AI」的願景,透過多元化服務模式致力於開發安全、自主可控的 AI 解決方案,協助企業提升營運效率。首先,群聯將 AI 功能整合至電子郵件系統,並延伸至 LINE 等即時通訊平台,讓使用者能更便利地存取服務;其次,群聯提供完整的文件管理系統和語音轉文字功能,並且開發 API 介面,協助企業串接後台知識庫;再者,群聯提供專屬解決方案,滿足企業不同部門的需求,例如為工程師開發即時程式碼 AI 助理;最後也是倍受企業青睞的是,群聯的AI aiDAPTIV+解決方案已導入於多個政府機關、醫療院所及警政單位,推進「平民式 AI」願景實現的步伐。
AI實務落地經驗
滿拓科技執行長吳昕益指出,AI技術仍有很大進步空間。今年, 大語言模型(LLM)從以往僅能理解文字內容,快速進步到支援多模態功能,能處理多種類型資料,包括文字、聲音、和影像等,滿拓科技秉持開發最新技術的使命,持續推動AI技術的突破與創新。吳昕益也強調,企業在導入生成式AI應用時必須關注2個重點,首先是評估資料量和品質,倘若缺乏足夠資料,建議使用現成模型,若是擁有大量資料,則可透過fine-tune和RAG等機制,讓AI的回答更精準。再來是積極培育跨領域人才,除了電腦科學背景的工程師外,還需要各領域專業人士的參與,如醫護人員、法律專家等。
邊緣運算AI晶片技術發展
創鑫智慧(Neuchips)執行長劉景慈則提到, AI產業發展正面臨幾個主要挑戰,包括:數據中心耗電量過高、AI 模型規模難以預測、以及資訊安全問題等。因應這些挑戰,創鑫智慧推出專注於邊緣運算的 Viper AI card 及N3000系列晶片,採用 PCIe Gen5 x8 介面、搭載 LPDDR5 記憶體。該晶片平均僅需 45W功耗即可支援 LLaMA、Mistral 等主流 AI 模型,效能可達到每秒 10 個 token 的處理速度。值得關注的是,創鑫智慧已啟動的下一代晶片 Blackbird 計畫,是一款採用台積電 4 奈米製程的新品,大幅提升效能至現有產品的20倍。
企業AI轉型關鍵策略
研華科技協理陳維呈在現場分享AI應用落地的實際經驗時強調,機會來臨時不會問你是否準備好?而是企業必須事先做好準備並付諸行動,才能在未來保持競爭優勢。是以,研華從上到下都積極推動AI應用,並且已在內部成功導入多項AI應用,如工程部門的bug追蹤系統,能自動處理客戶回報的問題,預計每年可為公司節省數百萬成本。在硬體研發方面,研華開發了AI輔助的電路圖檢測系統,能有效防止基礎設計錯誤,如接地線誤接等問題。
GPU算力與AI開發的創新管理
數位無限軟體 (INFINITIX)執行長陳文裕談到管理AI算力中心的創新作法時指出,企業在建置AI算力中心時,除了需要GPU伺服器和儲存設備外,更要建立完善的資源管理機制,確保使用者能有效存取並運用資源。為解決這個挑戰,數位無限開發的整合性平台,設計三階段部署流程(SIT、UAT、Production),提供從GPU算力調度管理及高彈性AI開發層功能,助企業佈署高效能的 AI 基礎設施與開發環境,可實現全自動化部署,大幅縮短模型上線時間。
從GenAI生態夥伴論壇活動內容,可以看出半導體在GenAI 時代中的重要性,友尚希望,從半導體通路商出發,憑藉著AI processor/CPU、Storage、光模塊、AI Power、演算法…等堅實的半導體代理基礎、完整的供應鏈體系,未來可以持續扮演AI供應鏈中價值串接的關鍵角色,與更多合作夥伴一同努力,為AI生態系發展注入新動能,共同開創AI時代的無限可能。
值得一提的是,本次友尚GenAI生態夥伴論壇吸引了40家生態系夥伴廠商、近百位產業菁英參與此盛會,充分展現了友尚在AI產業生態系統中的影響力與凝聚力。透過這樣的交流平台,不僅深化了合作夥伴間的連結,更為未來AI產業發展奠定了堅實的合作基礎。
圖說:大聯大友尚集團「GenAI生態夥伴論壇」匯集群聯電子、滿拓科技、創鑫智慧、研華科技、數位無限科技以及10家AI SaaS/PaaS/SI合作夥伴等產業領袖,共同探討AI發展趨勢,勾勒AI技術的發展藍圖。