從深度嵌入式系統到超大規模資料中心部署，人工智慧 (AI) 和機器學習 (ML) 技術正在為其中迅速擴展的一系列的產品和應用提供支援。儘管支援這些應用的硬體設計存在很大程度的差異，但都需要硬體加速。
深度學習技術需要大量的張量算數運算 (tensor arithmetic operation)。為了支援即時執行，記憶體和處理器的性能必須滿足比標準軟體驅動架構盡可能高得多的性能目標。這種需求導致去使用基於專用硬體加速器的設計，來執行並行化和高度流水線化的張量算數運算。為了避免通道阻塞，資料必須在合適的位置，合適的時間，以合適的格式出現。專用的資料編排硬體避免了加速器通道阻塞，從而支援以最高效率運行。
圖：資料編排可以為並行化的人工智慧實現應用快速地提供負載平衡和其他資料轉發功能
