最適合: 裸機上的大型訓練叢集,以及已在運行 Oracle 資料庫與應用程式的組織。
Oracle Cloud 上的請求路徑:透過執行個體或資源主體,工作負載無需儲存任何金鑰。私有服務存取可連往 OCI Generative AI(Cohere 與 Meta 模型)或專屬的裸機 GPU 主機;OCI Vault 保管由客戶管理的金鑰。AI 服務
- OCI Generative AI,搭配 Cohere 與 Meta 模型、代理程式及 RAG。
- 內建向量搜尋的 Oracle Database 23ai。
GPU 與加速器
- 裸機 NVIDIA H100、H200、B200 與 GB200 執行個體,以及 AMD Instinct 選項。
- OCI Supercluster 搭配 RDMA 叢集網路,適用於超大規模訓練工作。
代理與身分
- OCI IAM 搭配執行個體與資源主體,讓工作負載無需儲存金鑰即可驗證。
安全與資料
- 專屬裸機主機、存放於 OCI Vault 的客戶自管金鑰,以及私有服務存取。
擴展與最佳化
- Supercluster 橫向擴展用於訓練;OKE(Kubernetes)用於推論機群。
英國與歐盟區域
倫敦與 Newport(威爾斯)區域,以及歐盟區域。
注意事項
GPU 容量通常需要提前預訂,請配合訓練時程規劃合約。
Workstation 如何協助: 我們為您規劃並運行 OCI GPU 叢集,並將其與您的資料及地端系統整合。
以 Amazon Bedrock 大規模擴展 AI →雲端上適用於 LLM、代理程式與資料的 CI/CD →保護 LLM 與代理程式 API →AI 代理程式 harness →AI 的身分識別與驗證 →
我們合作的其他供應商
標誌為各所有者之商標,僅用於識別各平台,並取自 Wikimedia Commons。圖表由 Workstation 團隊製作。