One-api 是 OpenAI 接口管理 & 分發系統，支援 Azure、Anthropic Claude、Google PaLM 2、智譜 ChatGLM、百度文心一言、訊飛星火認知、阿里通義千問、360 智腦以及腾訊混元，可用於二次分發管理 key。
- 在負載均衡的同時，有效避免了 key 的洩露風險
部署 One-api#
- 反向代理
- 賬號：
root - 密碼：
123456
mkdir -p ~/app/one-api && cd ~/app/one-api && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
one-api:
image: justsong/one-api:latest
environment:
- TZ=Asia/Shanghai
volumes:
- ./data:/data
restart: unless-stopped
networks:
default:
external: true
name: ngpm
客戶端#
- ChatGPT-Next-Web
- 沉浸式翻譯
- 在 令牌 中新建一個令牌，端點填反代的地址
新建渠道#
- Azure 需要確保部署模型的名稱是
gpt-35-turbo - 可以將 one-api 本身當一個渠道進行套娃
- 在 日誌 裡可以看到對不同渠道進行了負載均衡
附加 部署 Next-Web#
mkdir -p ~/app/next-web && cd ~/app/next-web && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
next-web:
image: yidadaa/chatgpt-next-web:latest
environment:
- TZ=Asia/Shanghai
- OPENAI_API_KEY=<one-api添加的令牌>
- BASE_URL=<one-api的反代地址>
- HIDE_USER_API_KEY=1
- DISABLE_GPT4=1
restart: unless-stopped
networks:
default:
external: true
name: ngpm