One-apiは、OpenAI のインターフェース管理および配布システムであり、Azure、Anthropic Claude、Google PaLM 2、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑、および腾讯混元をサポートしています。これは二次配布のキー管理に使用することができます。
- 負荷分散と同時に、キーの漏洩リスクを効果的に回避します
One-api のデプロイ#
- リバースプロキシ
- アカウント:
root
- パスワード:
123456
mkdir -p ~/app/one-api && cd ~/app/one-api && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
one-api:
image: justsong/one-api:latest
environment:
- TZ=Asia/Shanghai
volumes:
- ./data:/data
restart: unless-stopped
networks:
default:
external: true
name: ngpm
クライアント#
- ChatGPT-Next-Web
- 沉浸式翻译
- トークンで新しいトークンを作成し、エンドポイントにはリバースプロキシのアドレスを入力します
新しいチャネルの作成#
- Azure では、デプロイされたモデルの名前が
gpt-35-turbo
であることを確認してください - one-api 自体をチャネルとして使用することもできます
- ログには、異なるチャネルへの負荷分散が行われていることが表示されます
追加:Next-Web のデプロイ#
mkdir -p ~/app/next-web && cd ~/app/next-web && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
next-web:
image: yidadaa/chatgpt-next-web:latest
environment:
- TZ=Asia/Shanghai
- OPENAI_API_KEY=<one-apiに追加したトークン>
- BASE_URL=<one-apiのリバースプロキシのアドレス>
- HIDE_USER_API_KEY=1
- DISABLE_GPT4=1
restart: unless-stopped
networks:
default:
external: true
name: ngpm