跳到主要内容

创建和管理集群

集群为计算节点和部署提供归属。管理员进入 基础设施 → 集群管理,先创建集群,再到 节点列表 注册计算节点。接入已有外部推理服务时,可以直接添加来源端点,无需创建集群。

创建 Docker 集群​

集群管理列表
集群列表显示类型、节点数、GPU 总量与启用状态。
创建集群表单
创建时填写名称,选择 Docker 类型;描述可以留空。
  1. 点击 创建集群,填写名称,可选填描述。
  2. 集群类型选择 Docker,提交后在列表中确认状态。
  3. 前往添加计算节点,在引导表单中选中新建集群。
  4. 节点上线后返回集群详情或拓扑视图,核对节点、GPU 和部署的归属。
集群类型

创建表单可能显示 Kubernetes 选项,但当前管理 API 仅接受 Docker 集群。此处请使用 Docker;Kubernetes 不能作为可用的部署路径。

日常维护​

集群列表提供详情、编辑、停用或启用、删除操作。编辑时可以修改名称与描述,集群类型创建后不可修改。停用或删除前,先确认节点和部署的实际使用情况,避免影响正在服务的模型。拓扑视图用于快速定位“集群 → 节点 → GPU / 部署”的关系;部署实例的日志仍应到模型部署详情查看。

如果节点没有出现在目标集群,检查注册时选的集群以及节点是否成功连接 Manager。下一步:添加计算节点。