跳到主要内容

安装与初始化

LLMPod 的 Manager 栈包含管理控制面 webserver、推理网关 proxyserver、PostgreSQL 和 Redis。官方安装脚本会下载安装所需的 Compose 配置与镜像,不需要获取项目源码。GPU/CPU 计算节点在 Manager 就绪后单独接入。

环境要求​

  • 一台可运行 Docker Engine 与 Docker Compose 的 Linux 服务器。
  • 管理员的浏览器能够访问控制面端口;应用与租户能够访问推理网关端口。
  • 多机部署时,计算节点能访问 Manager 的对外地址。GPU 节点还需要适配的宿主驱动和容器运行时。
  • 为 PostgreSQL 数据卷、模型目录和上传文件预留持久化空间。

使用官方安装脚本​

curl -fsSL https://llmpod.ai/src/download/install.sh -o install.sh
sudo bash install.sh

安装脚本会确认安装目录、管理端口、网关端口、节点回连地址及初始管理员凭据,并在完成后显示实际访问地址。默认安装目录为 /opt/llmpod,控制面端口为 8080,推理网关端口为 8090;以安装时选择的值为准。脚本把 docker-compose.yml 和 .env 放在安装目录,数据库密码由脚本生成。

安装完成后,可用实际端口检查两个服务的健康状态。若沿用默认端口:

curl -fsS http://127.0.0.1:8080/health
curl -fsS http://127.0.0.1:8090/health

如果检查失败,到安装目录查看服务状态与日志:

cd /opt/llmpod
docker compose --env-file .env ps
docker compose --env-file .env logs --tail=100 webserver proxyserver postgres redis

自定义了安装目录或端口时,请替换上面的路径和端口。远端节点必须能访问安装时选定的 Manager 对外地址;网络配置见网络与部署配置。

首次登录​

使用安装完成时显示的管理员账号和密码登录控制面,然后在控制台修改初始密码。安装目录 .env 中的 LLMPOD_ADMIN_USER 与 LLMPOD_ADMIN_PASSWORD 只在首次建库时生效;以后修改这两项不会重置现有账号。

下一步​