NVIDIA RTX PRO 6000 Blackwell Server Edition
RTX PRO 6000 Blackwell Server Edition 將 96 GB 的 GDDR7 與第五代 Tensor Core 整合於標準 PCIe 卡。我們在英國規劃、建置、安裝並支援 RTX PRO 伺服器，從四 GPU 的 2U 節點到 32 GPU 機櫃皆可。
RTX PRO 6000 Blackwell Server Edition 是 NVIDIA 頂級專業 RTX GPU 的資料中心版本。它能運行大型語言模型與 AI 代理，同時具備 RT Core、影片引擎與顯示輸出，可用於算圖、數位孿生與影片工作。因此一種顯示卡類型就能服務多個團隊。
它取代 L40S，成為 NVIDIA 通用型 PCIe 資料中心 GPU。與 L40S 相比，記憶體加倍（96 GB 對 48 GB），頻寬幾乎加倍，新增 FP4 精度，並可透過 Multi-Instance GPU（MIG）分割為四個隔離的 GPU。
| GPU 架構 | NVIDIA Blackwell |
|---|---|
| CUDA 核心 | 24,064 |
| Tensor Cores | 752，第五代（FP4、FP6、FP8、FP16、BF16、TF32） |
| RT Core | 188 個，第四代 |
| FP4 Tensor Core | 4 PFLOPS |
| FP8 Tensor Core | 2 PFLOPS |
| FP16 / BF16 Tensor Core | 1 PFLOPS |
| TF32 Tensor Core | 234 TFLOPS |
| FP32 | 120 TFLOPS |
| 峰值 RT Core 效能 | 355 TFLOPS |
| GPU 視訊記憶體 | 96 GB GDDR7，支援 ECC |
| 記憶體介面與頻寬 | 512-bit，1,597 GB/s |
| Multi-Instance GPU | 最多 4 個隔離執行個體 |
| 媒體引擎 | 4 × NVENC（第 9 代）、4 × NVDEC（第 6 代） |
| 顯示輸出 | 4 × DisplayPort 2.1 |
| 主機介面 | PCIe Gen 5 x16 |
| 最大功耗 | 最高 600 W，可設定 |
| 外形規格 | 氣冷：雙槽、全高、全長、被動式。液冷：單槽 |
| 安全 | 具備硬體信任根的安全開機 |
數據來自 NVIDIA 產品頁面與規格表。Tensor Core 數據為 NVIDIA 的峰值數字，實際吞吐量取決於模型、精度與軟體。
96 GB 可在單張顯示卡上以 FP8 容納 700 億參數的模型，或在四張或八張卡上容納更大的模型。對於可容忍的模型，FP4 可再將記憶體需求減半。
Omniverse 與 OpenUSD 場景、機器人與視覺所需的合成資料，以及模擬，都可在與使用它們的模型相同的 GPU 上運行。
RT Core、DLSS 4 與神經著色器，用於最終畫面算圖，另有四個編碼器與四個解碼器，適用於影片管線與串流。
120 TFLOPS 的 FP32，適用於模擬與工程程式，並可透過 RAPIDS 進行 GPU 加速的資料科學。
透過 MIG 或 NVIDIA 虛擬 GPU 軟體，讓設計師與工程師共用 GPU，使 CAD 與視覺化使用者不必每人一台塔式主機。
同一批伺服器白天執行推論，夜間進行算繪或微調，而不必另外購買不同的機群。
RTX PRO 6000 顯示卡安裝於標準 PCIe 伺服器。以下是我們最常被詢問的三種規格。
2U 機箱內配備 384 GB GPU 記憶體，可裝入現有機櫃。適合部門的私有助理、針對公司文件的檢索增強生成 (RAG)，或首個正式環境推論服務。
GPU 全功率時約 3 至 3.5 kW
768 GB 的 GPU 記憶體。AMAX AceleMax AXG-428AG 等 MGX 伺服器搭配八張雙槽 GPU 與兩顆 AMD EPYC 9005 處理器，最多五個供網路卡使用的 PCIe Gen 5 x16 插槽，以及八個 E1.S 硬碟。
全 GPU 功耗下約 6 至 7 kW
四台八 GPU 伺服器，彼此之間以 Spectrum-X 乙太網路或 Quantum InfiniBand 連接：單一機櫃約 3 TB 的 GDDR7 與 128 PFLOPS 的 FP4。AMAX 將此設計以 RackScale 32 銷售。適合大規模推論、多代理系統與大型算圖農場。
每個機架請規劃 25 至 30 kW
| RTX PRO 6000 Blackwell Server Edition | L40S | |
|---|---|---|
| 架構 | Blackwell | Ada Lovelace |
| GPU 視訊記憶體 | 96 GB GDDR7 ECC | 48 GB GDDR6 ECC |
| 記憶體頻寬 | 1,597 GB/s | 864 GB/s |
| CUDA 核心 | 24,064 | 18,176 |
| Tensor Cores | 752（第 5 代） | 568（第 4 代） |
| RT Core | 188（第 4 代） | 142（第 3 代） |
| FP32 | 120 TFLOPS | 91.6 TFLOPS |
| FP4 | 是 | 否 |
| MIG | 最多 4 個執行個體 | 否 |
| PCIe | Gen 5 x16 | Gen 4 x16 |
| 最大功耗 | 最高 600 W | 350 W |
| 影片引擎 | 4 NVENC / 4 NVDEC | 3 NVENC / 3 NVDEC |
在電力吃緊或模型可放入 48 GB 的情況下，L40S 仍是合理的選擇。若放不下，RTX PRO 6000 通常能以更少的 GPU 完成相同工作。
我們根據您的模型、上下文長度與流量，推算 GPU 記憶體、使用者與儲存需求，並挑選能勝任的最小系統。
一份書面報價，載明確切配置、交期，以及所需的電力與散熱。
我們安裝作業系統、NVIDIA 資料中心驅動程式、CUDA、容器工具組以及您的推論或算繪堆疊，然後在滿載下進行燒機測試。
我們送貨到您的場地或資料中心，進行上架與佈線，並從英國提供支援，硬體並享有原廠保固。
不一樣。兩者都有 96 GB GDDR7，但 Server Edition 為被動散熱，依賴伺服器風扇，可設定的功率上限最高 600 W，也有單槽液冷版本。Workstation Edition 自帶風扇，適用桌上型直立機殼，而 Max-Q Workstation Edition 則以 300 W 運行。
FP8 下約 700 億參數，FP4 下約為其兩倍，並為 KV 快取保留部分記憶體。長上下文與大量使用者需要更多記憶體，因此我們依您實際的上下文長度與並行量來評估規模。
不行。GPU 之間透過 PCIe Gen 5 溝通。這對於執行多份模型副本，或將單一模型分散到少數幾顆 GPU 上來說沒有問題。若是需要 NVLink 的大型訓練工作，請考慮 HGX B200 或 B300 系統。
可以。MIG 可將一張卡切分為最多四個相互隔離的 GPU，各自擁有獨立的記憶體與運算資源。NVIDIA 的虛擬 GPU 軟體則是虛擬桌面的另一個選擇。
這取決於 GPU 供應與您選擇的伺服器。商店中的每項產品都會顯示我們目前的交期，您的報價單也會在下單前加以確認。
NVIDIA、NVIDIA 標誌、RTX、RTX PRO、Blackwell、CUDA、NVLink、MGX、Omniverse、Spectrum-X、Quantum 與 DLSS 為 NVIDIA Corporation 在美國及其他國家的商標及／或註冊商標。AMAX 與 AceleMax 為 AMAX Engineering Corporation 的商標。AMD 與 EPYC 為 Advanced Micro Devices, Inc. 的商標。所有其他商標屬於其各自所有者。Workstation 以獨立供應商身分介紹這些產品，並不暗示獲得其所有者的背書。產品影片來自 NVIDIA。