Limour

Limour

临床医学在读。

【記録】one-apiを使用してAzureとOpenAIのAPIを統合する

One-apiは、OpenAI のインターフェース管理および配布システムであり、Azure、Anthropic Claude、Google PaLM 2、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑、および腾讯混元をサポートしています。これは二次配布のキー管理に使用することができます。

  • 負荷分散と同時に、キーの漏洩リスクを効果的に回避します

One-api のデプロイ#

mkdir -p ~/app/one-api && cd ~/app/one-api && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
  one-api:
    image: justsong/one-api:latest
    environment:
      - TZ=Asia/Shanghai
    volumes:
      - ./data:/data 
    restart: unless-stopped
networks:
  default:
    external: true
    name: ngpm

image

クライアント#

  • ChatGPT-Next-Web
  • 沉浸式翻译
  • トークンで新しいトークンを作成し、エンドポイントにはリバースプロキシのアドレスを入力します

新しいチャネルの作成#

  • Azure では、デプロイされたモデルの名前が gpt-35-turbo であることを確認してください
  • one-api 自体をチャネルとして使用することもできます
  • ログには、異なるチャネルへの負荷分散が行われていることが表示されます

image

追加:Next-Web のデプロイ#

mkdir -p ~/app/next-web && cd ~/app/next-web && nano docker-compose.yml
sudo docker-compose up -d
version: '3'
services:
  next-web:
    image: yidadaa/chatgpt-next-web:latest
    environment:
      - TZ=Asia/Shanghai
      - OPENAI_API_KEY=<one-apiに追加したトークン>
      - BASE_URL=<one-apiのリバースプロキシのアドレス>
      - HIDE_USER_API_KEY=1
      - DISABLE_GPT4=1
    restart: unless-stopped
networks:
  default:
    external: true
    name: ngpm

image

読み込み中...
文章は、創作者によって署名され、ブロックチェーンに安全に保存されています。