One-api 是 OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key。
- 在负载均衡的同时，有效避免了 key 的泄露风险
部署 One-api#
- 反向代理
- 账号：
root - 密码：
123456
mkdir -p ~/app/one-api && cd ~/app/one-api && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
one-api:
image: justsong/one-api:latest
environment:
- TZ=Asia/Shanghai
volumes:
- ./data:/data
restart: unless-stopped
networks:
default:
external: true
name: ngpm
客户端#
- ChatGPT-Next-Web
- 沉浸式翻译
- 在 令牌 中新建一个令牌，端点填反代的地址
新建渠道#
- Azure 需要确保部署模型的名称是
gpt-35-turbo - 可以将 one-api 本身当一个渠道进行套娃
- 在 日志 里可以看到对不同渠道进行了负载均衡
附加 部署 Next-Web#
mkdir -p ~/app/next-web && cd ~/app/next-web && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
next-web:
image: yidadaa/chatgpt-next-web:latest
environment:
- TZ=Asia/Shanghai
- OPENAI_API_KEY=<one-api添加的令牌>
- BASE_URL=<one-api的反代地址>
- HIDE_USER_API_KEY=1
- DISABLE_GPT4=1
restart: unless-stopped
networks:
default:
external: true
name: ngpm