在 GPU 叢集中,網路就是電腦的一部分。分散在眾多 GPU 上的訓練作業,有很大一部分時間都花在交換資料,因此緩慢或設計不良的網路架構會讓昂貴的加速器空等。NVIDIA 的網路產品組合源自其併購 Mellanox,涵蓋 InfiniBand 與乙太網路,用於處理這類東西向流量。
我們與叢集同步設計網路架構,而不是事後補上。這包括在 InfiniBand 與 RoCE 乙太網路之間做選擇、確定拓撲與超額訂閱比、規劃每一條纜線與光學模組,並在交付前驗證效能。
專為 AI 叢集打造的乙太網路
適用於 AI 與 HPC 的 InfiniBand
資料中心乙太網路交換器
低延遲交換
伺服器網路卡
卸載網路、儲存與安全工作
實體層
營運、監控與模擬
規格摘要自製造商資訊,各版本之間可能有所變動。我們不在此公布價格,如需目前的價格與庫存,請見商店。
由我們英國工程團隊提供的建置、整合與支援
我們在 InfiniBand 與 RoCE 乙太網路之間做選擇,設計胖樹或軌道最佳化拓撲,並依您的工作負載設定超額訂閱比。
我們為每條纜線與收發器產出物料清單,依您的機櫃配置規劃長度,並提供貼有標籤、預先裁切的纜線套件。
我們設定 Cumulus Linux、Onyx 或 UFM,並部署 NetQ 或 UFM 進行監控。
安裝後,我們會執行 NCCL 與 ib_write_bw 等效能測試,並在上線前交付結果。
兩者都很適合 AI。InfiniBand 是專用訓練叢集的成熟選擇;Spectrum-X 乙太網路則適合想沿用乙太網路工具與技能的組織。我們會依您的規模、團隊與現有網路進行比較。
一個叢集可能需要數百條連線,而長度、類型或收發器選錯都會延誤上線。我們依機櫃配置規劃每一條連線,並交付貼有標籤的套件。
可以。我們會執行標準頻寬與集合通訊測試,並將結果作為交付的一部分提供給您。
通常可以。我們會檢視您現有的設備,並建議如何擴充或汰換。