【記錄】使用one-api聚合Azure和OpenAI的API

2023年10月3日#one-api #Azure #OpenAI760

AI 翻譯

這篇文章透過AI由簡體中文翻譯成繁體中文。查看原文

AI 生成的摘要

One-api是OpenAI的接口管理和分发系统，支持多个平台，并可用于二次分发管理密钥。它可以在负载均衡的同时有效避免密钥泄露风险。部署One-api需要进行反向代理，并使用指定的账号和密码。客户端ChatGPT-Next-Web可以在令牌中添加一个新的令牌，并设置反代的地址。还可以创建新的渠道，其中Azure需要确保部署模型的名称为gpt-35-turbo。此外，可以将One-api本身作为一个渠道进行套娃，并在日志中查看对不同渠道的负载均衡情况。附加部署Next-Web时，需要创建相应的docker-compose文件，并设置相关环境变量。

One-api 是 OpenAI 接口管理 & 分發系統，支援 Azure、Anthropic Claude、Google PaLM 2、智譜 ChatGLM、百度文心一言、訊飛星火認知、阿里通義千問、360 智腦以及腾訊混元，可用於二次分發管理 key。

在負載均衡的同時，有效避免了 key 的洩露風險

部署 One-api#

反向代理
賬號：root
密碼：123456

mkdir -p ~/app/one-api && cd ~/app/one-api && nano docker-compose.yml
sudo docker-compose up -d

version: '3'
services:
  one-api:
    image: justsong/one-api:latest
    environment:
      - TZ=Asia/Shanghai
    volumes:
      - ./data:/data 
    restart: unless-stopped
networks:
  default:
    external: true
    name: ngpm

客戶端#

ChatGPT-Next-Web
沉浸式翻譯
在令牌中新建一個令牌，端點填反代的地址

新建渠道#

Azure 需要確保部署模型的名稱是 gpt-35-turbo
可以將 one-api 本身當一個渠道進行套娃
在日誌裡可以看到對不同渠道進行了負載均衡

附加部署 Next-Web#

mkdir -p ~/app/next-web && cd ~/app/next-web && nano docker-compose.yml
sudo docker-compose up -d

version: '3'
services:
  next-web:
    image: yidadaa/chatgpt-next-web:latest
    environment:
      - TZ=Asia/Shanghai
      - OPENAI_API_KEY=<one-api添加的令牌>
      - BASE_URL=<one-api的反代地址>
      - HIDE_USER_API_KEY=1
      - DISABLE_GPT4=1
    restart: unless-stopped
networks:
  default:
    external: true
    name: ngpm

【記錄】使用one-api聚合Azure和OpenAI的API

部署 One-api#

客戶端#

新建渠道#

附加 部署 Next-Web#

附加部署 Next-Web#