モデルグループ設定
Nekro Agentは複数のモデルグループの設定をサポートしており、異なるLLMモデル、設定パラメータ、APIアクセスポイントを柔軟に切り替えることができます。このドキュメントでは、モデルグループの設定方法と使用戦略を詳しく説明します。
モデルグループの基本概念
モデルグループは、関連するモデル設定パラメータの集合であり、以下を含みます:
- 使用するモデル名
- APIアクセスポイント
- 認証情報
- モデルパラメータ
- 呼び出し戦略
複数のモデルグループを設定することで、以下のことが可能になります:
- メインモデルが利用できない場合に自動的に切り替わるバックアップモデルを設定する
- 異なるタスクシナリオに最適なモデルを選択する
- 設定情報を再入力することなく、いつでも個人の好みに応じてモデルを切り替える
設定方法
WebUIでの設定
- WebUIにアクセスします:
http://<あなたのサーバーIP>:8021 - ログイン後、「システム設定」→「モデル設定」に移動します
- 「モデルグループ設定」セクションで各モデルグループを設定します
モデルグループパラメータの詳細
各モデルグループには以下のパラメータを含めることができます:
基本パラメータ
| パラメータ | 説明 | 例値 |
|---|---|---|
| CHAT_MODEL | 使用するモデル名 | gpt-4o, claude-3-opus |
| BASE_URL | APIベースURL | https://api.openai.com/v1 |
| API_KEY | APIアクセスキー | sk-xxxxxxxx |
ヒント
APIベースURLは、OpenAI互換のAPIアクセスポイントを使用でき、市場のほとんどのLLMプロバイダーと互換性があります
