快速上手
LLMPod 有两条管理员起步路径。已有推理服务可以直接接入网关；自有模型文件需要集群、节点与部署。两条路径最后都汇合到模型发布、API Key 和调用。
| 你现在拥有 | 先完成 | 不需要先做 |
|---|---|---|
| 一个可访问的 OpenAI / Anthropic 兼容推理服务 | 添加来源端点 → 发布模型 | 添加 GPU 节点、上传权重 |
| 模型文件和计算节点 | 添加节点 → 添加模型 → 模型部署 | 外部供应商凭据 |
| 租户账号与已发布模型 | 查看模型市场 → 创建 API Key | 管理员的部署与发布操作 |
共同的第一步：准备平台
如果平台尚未运行，先完成安装与初始化。确认管理界面可以登录，且推理网关端口可从调用方访问。官方安装脚本默认使用控制面 8080、推理网关 8090；实际端口以安装时选择的值为准。
路径 A：接入已有推理服务
- 在发布中心 → 供应商管理添加来源端点，填写协议、转发基址、上游模型名及需要的上游 Key。
- 在发布中心 → 模型发布创建对外模型名，绑定该端点并上架。调用方使用的是这个对外名称，不是上游模型名。
- 用平台或租户账号创建有权访问该名称的 API Key，再发起请求。
按顺序实操可看从已有服务完成首次调用；各字段的详细说明见添加来源端点和发布模型。
路径 B：部署自有模型
- 在集群管理创建 Docker 集群，在节点列表为目标机器生成并执行节点引导命令。
- 在模型管理 → 模型管理添加模型：选择 HuggingFace 仓库或本地目录 / 文件夹上传，探测并核对模型信息。
- 在模型管理 → 部署列表新建部署：选择引擎、集群与算力，通过预检后提交。部署是异步过程，等待实例就绪。
- 创建部署时可以选择自动发布；否则到发布中心手动创建对外模型名并绑定端点。
- 创建 API Key 并调用推理 API。
成功标志
使用目标 Key 请求 GET /v1/models 能看到对外模型名；对支持 Chat Completions 的模型发起 /v1/chat/completions 请求后，返回正常响应。模型类型不同，应使用对应接口。
按顺序实操可看从模型文件完成首次调用。如果你只有租户权限，可以从租户使用模型开始。租户端不提供添加模型、创建部署和发布路由入口。