當前位置: 主頁 > 新聞 >
 

AWS re:Invent 2024雲端科技發表會台灣站 重塑企業生成式AI和雲端創新

本文作者:AWS       點擊: 2025-01-17 16:20
前言:
2025年1月17日--Amazon Web Services(AWS)在2024年AWS re:Invent全球大會上發布一系列新技術,聚焦於生成式人工智慧(AI)、資料策略及基礎設施技術三大領域,加上涵蓋模型和應用程式的全方位創新,助力企業運用生成式AI,全面重塑客戶的雲端創新體驗。

 
AWS台灣暨香港專業解決方案架構師總監楊仲豪表示:「AWS是全球雲端運算的開創者和領導者,更是企業建構和應用生成式AI的首選,2024年re:Invent全球大會的一系列重磅發布再次印證了這一點。我們不僅在雲端核心服務層面持續創新,更從晶片到模型,再到應用程式的每一層技術堆疊都取得突破,讓不同層級的創新相互賦能、共同進化。只有這樣全方位的大規模創新才能真正滿足現今客戶的發展需求,加速釋放前瞻技術的價值,助力各行各業重塑未來。」

 
生成式AI全方位創新,訓練推論、模型和應用程式全面進化
在生成式AI領域,AWS全面強化基礎設施、模型和應用程式三層技術堆疊,幫助企業更輕鬆、更經濟實惠地將生成式AI應用於實際業務場景。此次新發布包括:推出Amazon Nova六款基礎模型;生成式AI基礎模型託管服務Amazon Bedrock新增100多款模型,並推出AI安全防護機制、多代理合作(multi-agent collaboration)和模型蒸餾等重磅更新,全面優化推論場景的準確性、成本和回應速度;生成式AI支援助理Amazon Q更加深入軟體開發和商業應用場景,並為傳統工作負載轉型開闢新途徑;完全託管的機器學習平台Amazon SageMaker AI將幫助客戶更快、更輕鬆地建構、訓練及部署模型。

Amazon Nova大幅降低基礎模型成本:Amazon Nova一發布即成為全球領先基礎模型的重要系列,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基礎模型,以及用於生成高品質圖片的Nova Canvas和生成高品質影片的Nova Reel。在各自的類別中,Amazon Nova Micro、Lite和Pro的應用成本比Amazon Bedrock中表現最佳的模型至少降低75%,同時也是Amazon Bedrock上相同級別的模型中,速度最快的模型。

Amazon Bedrock平台能力全面升級:Amazon Bedrock模型選擇全面升級,AWS成為首家提供Luma AI和poolside模型的雲端服務供應商,並且新增Stability AI的最新模型,還透過新推出的Amazon Bedrock Marketplace功能為客戶提供100多個熱門、新興及專業模型;同時,Amazon Bedrock推出低延遲優化推論、模型蒸餾、提示詞快取等功能,大幅提升推論效率;支援GraphRAG等知識庫功能,提升資料運用能力;透過自動推理檢查(Automated Reasoning checks)功能和多代理合作等創新,進一步提升AI安全性,並推動智慧代理發展。

Amazon Q擴展應用場景:Amazon Q Developer增加三款新的智慧代理,能自動執行單元測試、文檔生成及程式碼檢查流程,並透過與GitLab深度整合,擴展應用場景;推出轉型功能,以加速Windows.NET、VMware和大型主機工作負載的遷移和現代化,縮短轉型時間並降低成本;強化Amazon Q Business和Amazon Q in QuickSight的洞察能力,並自動化複雜的工作流程。

基礎設施創新:推出Amazon SageMaker的四項AI創新,包括Amazon SageMaker HyperPod新的訓練配方(recipe)功能、彈性訓練計畫和任務治理功能,以及在Amazon SageMaker中使用AWS合作夥伴的熱門AI應用程式。這些功能將幫助客戶更快開始訓練熱門模型,透過彈性訓練計畫節省數周時間,並將成本降低高達40%。

資料體驗升級,統一平台釋放資料價值
現今,越來越多客戶不再分開使用不同的資料分析工具,而是正在將分析、機器學習(ML)和生成式AI互相結合來獲取洞察。AWS推出的新一代Amazon SageMaker提供一個新的、統一的編輯器,為客戶提供單一的資料和AI開發環境,用戶可以在其中尋找和使用組織中的所有資料,為各種常見的資料應用案例選擇最佳工具,並與不同團隊和角色合作,以擴展資料和AI專案。

新一代Amazon SageMaker:將快速SQL分析、PB級資料處理、資料探索和整合、模型開發和訓練以及生成式AI等功能統一到一個平台。透過全新的Amazon SageMaker Unified Studio,客戶可以輕鬆尋找和使用組織內的所有資料資源,並借助Amazon Q Developer選擇最適合的工具來處理資料。Amazon SageMaker Catalog和內建的治理功能則能確保資料、模型和開發套件的使用合規。此外,透過零ETL(zero-ETL)與領先SaaS應用程式的整合,客戶無需建構複雜的資料管道,即可在Amazon SageMaker Lakehouse和雲端資料倉儲Amazon Redshift中分析合作廠商的應用程式資料。

推出Amazon SageMaker Lakehouse:實現資料湖、資料倉儲、營運資料庫和企業應用程式資料的統一管理,支援客戶使用熟悉的AI和ML工具或與Apache Iceberg相容的查詢引擎來使用和處理資料。

全方位創新,升級基礎設施技術
作為全球雲端運算的開創者和領導者,AWS在運算、網路、儲存和資料庫等核心領域持續創新,為各類工作負載提供更強大的底層架構支援。

自研晶片引領運算力創新:基於AWS Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2執行個體正式可用,相較於目前GPU執行個體性價比提升30%至40%;推出配備64個Trainium2晶片的EC2 Trn2 UltraServers伺服器,提供高達83.2 Petaflops浮點運算力,運算力是單一執行個體的四倍。在大規模訓練方面,Project Rainier叢集搭載數十萬個Trainium2晶片,運算力超越以往叢集五倍以上。採用3奈米工藝的下一代AWS Trainium3晶片預計在2025年末上線,將使叢集效能提升四倍,並在效能、能效和密度上樹立新標準。

網路基礎設施升級:推出第二代UltraCluster網路架構,也稱為10p10u網路,支援超過20,000個GPU同步工作,頻寬達10Pb/s,延遲低於10ms,這項突破性升級將模型訓練時間縮短至少15%。

儲存服務強化資料處理能力:雲端可大規模擴展的物件儲存服務Amazon Simple Storage Service(Amazon S3)新增Metadata中繼資料功能,實現自動獲取和即時更新資料;推出專為Iceberg表格優化的S3 Tables儲存類型,將查詢效能提升三倍,交易處理能力提升10倍。

資料庫服務新突破:全新的無伺服器分散式SQL資料庫Amazon Aurora DSQL採用active-active架構並具備自動故障修復功能,支援應用程式在任意端點進行讀寫。不僅提供99.999%的多區域可用性,還能實現近乎無限的可擴展性,且無需進行資料庫分區(sharding)或執行個體升級。同時,快速NoSQL鍵值資料庫Amazon DynamoDB global tables新功能新增支援橫跨多區域的強大一致性,進一步升級分散式資料庫服務。

資料中心設計重塑基礎設施:透過簡化電力分配和機械系統,使基礎設施可用性達99.9999%,並將受電力問題影響的機架數量減少89%。創新的「液體到晶片」冷卻系統無縫整合空氣和液體冷卻功能,使機械能耗降低46%,全新的設計更讓每個站點增加12%的運算能力。同時,在永續方面取得重要突破,採用可再生柴油作為備用發電系統燃料,與傳統化石柴油相比,溫室氣體排放可減少90%,而資料中心建築的混凝土固有碳排放量相較於業界平均水準最高可降低35%。

助力全球企業在AWS上重塑未來
眾多新創企業與產業領袖正在使用AWS持續創新,從AI前瞻探索到金融風險管控、從數位娛樂體驗優化到生技製藥科學發展,AWS正助力各行各業加速創新,突破既有模式、重塑未來。

在亞馬遜,Amazon Kindle的技術支援工程師採用Amazon Q Developer的營運調查功能後,問題解決速度提升了65%至80%,這使他們能夠更快地回應客戶需求,確保提供卓越的用戶體驗。Amazon Music的開發人員將Amazon Q視為全天待命的得力助理,能自動調查並辨識各種潛在問題,大幅提升了回應速度。初步的使用資料顯示,Amazon Music的問題解決速度提升了一倍,確保聽眾能不間斷地享受喜愛的音樂。

Anthropic專注於AI安全和研究,致力於打造可靠、可判斷和可控的AI系統,Anthropic的旗艦產品Claude是全球數百萬使用者信賴的大型語言模型。Anthropic已開始優化Claude模型,以便在亞馬遜最先進的AI硬體Trainium2上運行。Anthropic也計畫使用數十萬個Trainium2晶片,為在Amazon Bedrock上使用Claude的客戶提供卓越的效能表現,此規模超越以往叢集五倍以上。

領先的生物科技公司羅氏羅氏(Roche),致力於推動科學進步以改善人們的生活。羅氏將使用Amazon SageMaker Lakehouse統一來自Amazon Redshift和Amazon S3資料湖的資料,以消除資料孤島,強化團隊之間的合作,並允許使用者無縫使用資料,無需昂貴的資料移動或重複的安全存取控制。借助Amazon SageMaker Lakehouse,羅氏預計資料處理時間將減少40%,這幫助他們減少資料管理工作,能將更多精力用於推動業務發展。

關於Amazon Web Services
自2006年來,Amazon Web Services一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS不斷擴展可支持幾乎任何雲端工作負載的服務,為客戶提供超過240種功能全面的雲端服務,包括運算、儲存、資料庫、聯網、分析、機器學習與人工智慧、物聯網、行動、安全、混合雲、媒體,以及應用開發、部署和管理等方面,遍及36個地理區域內的114個可用區域(Availability Zones),並已公佈計畫在紐西蘭、沙烏地阿拉伯和台灣等建立4個AWS地理區域、12個可用區域。全球超過百萬客戶信任AWS,包含發展迅速的新創公司、大型企業和政府機構。AWS協助客戶強化自身基礎設施,提高營運上的彈性與應變能力,同時降低成本。欲瞭解更多AWS的相關資訊,請至:aws.amazon.com

 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11