越來越多的資料中心和其他高效能計算環境開始使用 GPU,因為 GPU 能夠快速處理深度學習和機器學習應用中所產生的大量資料。不過,就像許多新的數據中心的創新,提高了應用程序的性能,但這項創新也暴露出新的系統瓶頸。在這些應用中,用於提高系統效能的新興架構涉及透過一個 PCIe 結構在多個主機之間共用系統資源。
PCIe標準(特別是其基於樹狀結構的傳統層級)會限制資源分享的實現方式 ( 和實現程度 )。不過,可以實現一種低延遲的高速結構方法,這種方法允許在多個主機之間共用大量 GPU 和 NVMe SSD,同時仍支援標準系統驅動程式。
圖: 多主機拓撲