當前位置: 主頁 > 新聞 >
 

NVIDIA 推出最實惠的生成式 AI 超級電腦

本文作者:NVIDIA       點擊: 2024-12-18 10:29
前言:
Jetson Orin Nano Super 在運行生成式 AI 方面的效能提高 1.7 倍,讓業餘者、開發人員和學生可以運行各種熱門模型
 
 
NVIDIA推出體積小巧的新款生成式人工智慧(AI)超級電腦,透過軟體升級的方式,以更低價格提供更高效能。  

新款NVIDIA Jetson Orin Nano Super開發者套件僅手掌大小,不論是商業AI開發人員業餘者與學生,都可以享受到更棒的生成式AI功能和更高的效能。價格也從499美元降至249美元。

與前代產品相比,這款在今天上市的產品能夠將生成式AI的推論效能提高1.7倍、運算效能提高70%至67 INT8 TOPS,記憶體頻寬加大50%至每秒102 GB。

無論是使用檢索增強生成技術來建立LLM聊天機器人、建立視覺AI代理,還是部署AI機器人,Jetson Orin Nano Super都是理想的解決方案。

源源不絕的好禮
對於已經擁有Jetson Orin Nano開發者套件的使用者而言,新款 Jetson Orin Nano Super 的軟體更新服務也將提高運行生成式 AI 的效能。

Jetson Orin Nano Super適合有興趣發展生成式AI、機器人或電腦視覺技能的人士使用。隨著AI世界正從特定任務模型朝著基礎模型的方向轉變,它也提供了一個容易使用的平台,能夠協助將想法轉化成現實。

Jetson Orin Nano Super 擁有運行生成式 AI 的強大效能
Jetson Orin Nano Super 更強大的運算效能能夠運行各種熱門的生成式 AI 模型和以 transformer 為基礎的電腦視覺。

 
這款開發者套件包含一個Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的理想平台。

這個SoM搭載 NVIDIA Ampere 架構GPU及Tensor核心,以及6核心Arm CPU,能夠同時運行多個AI應用管道與進行高效能推論作業。它最多可支援四具攝影機,提供比過去版本更高的解析度與幀率。

廣泛的生成式AI軟體生態系與社群
生成式AI正迅速發展。NVIDIA Jetson AI Lab可立即支援由開源社群所發展出的尖端模型,並且提供簡單易用的教學內容。開發人員也可以從規模更大的Jetson 社群得到更多支援,以及從開發人員建立的項目裡獲得靈感。

Jetson能夠執行NVIDIA AI軟體,包括用於機器人的NVIDIA Isaac、用於視覺 AI 的NVIDIA Metropolis,以及用於處理感應器資料的NVIDIA Holoscan。使用NVIDIA Omniverse Replicator來產生合成資料,以及使用用於微調 NGC 目錄裡預先訓練好的 AI 模型的 NVIDIA TAO Toolkit可縮短開發時間。

Jetson 生態系合作夥伴提供額外的AI與系統軟體、開發者工具,以及開發專屬軟體。他們也能夠協助提供攝影機和其他感測器,以及載板和產品解決方案的設計服務。

Super模式讓所有Jetson Orin獲得更佳效能
Jetson Orin NX 與 Orin Nano 系列系統模組同樣能夠藉由軟體更新服務,將運行生成式 AI 的效能提高 1.7 倍。

 
現有的 Jetson Orin Nano 開發者套件用戶可立即升級您的JetPack SDK以釋放更強大的效能。

了解更多關於Jetson Orin Nano Super 開發套件的資訊。

請參閱有關軟體產品資訊的公告。
 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11