跳到主要内容

租户如何使用模型

租户控制台用于使用平台已发布的模型。添加模型、创建部署和发布路由由平台管理员完成;租户从模型市场开始。

租户控制台展示可用模型、调用趋势、余额和快捷入口
控制台汇总本租户的模型、调用和余额;快捷入口可直接前往 API Key、在线调试和调用统计。

1. 找到可用模型​

打开核心功能 → 模型市场,搜索模型并查看详情。页面展示的是当前租户可用、已上架且未被封禁的模型。详情中可查看对外模型名、能力与定价信息,并找到 OpenAI / Anthropic 接入地址和在线调试入口。

租户模型市场中的可用模型卡片、定价和在线调试入口
模型卡片显示类型、可用状态和输入/输出价格;点击卡片可查看接入详情。
租户模型详情中的对外模型名、计费方式和 API Base URL
详情中的模型名称用于请求体的 model 字段;OpenAI 与 Anthropic Base URL 不同。截图中的网关地址已换成示例域名。

如果管理员说模型已发布,但市场中没有出现,先检查模型是否上架及租户是否被限制访问;创建 API Key 后还要核对 Key 的授权模型范围。

2. 在线调试​

打开核心功能 → 在线调试,选择模型与可用 API Key,发送一个简单请求。调试页支持流式输出以及常用采样参数;使用多模态模型时才选择相应的图片输入能力。

租户在线调试的 Key、模型、流式输出、思考强度和采样参数
先选择有权调用该模型的 Key,再设置流式输出、温度、Top P 和最大输出 Token。
租户在线调试发送问题并收到真实上游响应
示例请求已收到上游响应;这验证了 Key 授权、发布路由和端点的基本调用链路。Key 片段已替换。

在线调试成功说明当前账号、Key 和模型的基本调用链路可用。把同一对外模型名与 Key 用到应用代码时,参照调用推理 API。

3. 管理凭据与用量​

  • 在核心功能 → API Key为不同应用创建独立凭据,可设置授权模型、过期时间、RPM/TPM、Token 配额与预算等限制。详见创建 API Key。
  • 在数据与费用 → 调用统计按时间、模型、Key 或状态查请求;详情可查看 Token、费用、延迟及错误信息。
  • 在数据与费用 → 费用中心查看余额和流水。当前控制台不提供自助充值入口。
租户调用统计显示刚完成的模型请求、Token 和延迟
调试成功后可在调用统计中按模型和时间找到该请求,查看状态、Token 与延迟。
租户费用中心展示账户余额和一笔调额流水
费用中心区分当前余额与流水;示例流水来自平台管理员调额,并非模型调用费用。

租户管理员还可以在管理 → 团队管理 / 角色权限配置成员与权限,审计日志只显示本租户范围内的操作。需要对照单次请求的错误或上游路由时,继续看监控调用与排查请求。