模型组配置
Nekro Agent 支持配置多个模型组,使您能够灵活切换不同的 LLM 模型、配置参数和 API 接入点。本文档详细介绍模型组的配置方法及使用策略。
模型组基本概念
模型组是一组相关的模型配置参数的集合,包括:
- 使用的模型名称
- API 接入点
- 身份验证信息
- 模型参数
- 调用策略
通过配置多个模型组,您可以:
- 设置备选模型,当主模型不可用时自动切换
- 为不同任务场景选择最合适的模型
- 根据个人喜好需要随时切换模型而不用重新填写配置信息
配置方法
通过 WebUI 配置
- 访问 WebUI:
http://<您的服务器IP>:8021
- 登录后进入「系统配置」→「模型配置」
- 在「模型组配置」部分设置各个模型组
模型组参数详解
每个模型组可以包含以下参数:
基本参数
参数 | 说明 | 示例值 |
---|---|---|
CHAT_MODEL | 使用的模型名称 | gpt-4o, claude-3-opus |
BASE_URL | API 基础 URL | https://api.openai.com/v1 |
API_KEY | API 访问密钥 | sk-xxxxxxxx |
提示
API 基础 URL 可以使用任意 OpenAI 兼容的 API 接入点,兼容市面上大多数 LLM 供应商