Skip to content

模型组配置

Nekro Agent 支持配置多个模型组,使您能够灵活切换不同的 LLM 模型、配置参数和 API 接入点。本文档详细介绍模型组的配置方法及使用策略。

模型组基本概念

模型组是一组相关的模型配置参数的集合,包括:

  • 使用的模型名称
  • API 接入点
  • 身份验证信息
  • 模型参数
  • 调用策略

通过配置多个模型组,您可以:

  • 设置备选模型,当主模型不可用时自动切换
  • 为不同任务场景选择最合适的模型
  • 根据个人喜好需要随时切换模型而不用重新填写配置信息

配置方法

通过 WebUI 配置

  1. 访问 WebUI:http://<您的服务器IP>:8021
  2. 登录后进入「系统配置」→「模型配置」
  3. 在「模型组配置」部分设置各个模型组

模型组参数详解

每个模型组可以包含以下参数:

基本参数

参数说明示例值
CHAT_MODEL使用的模型名称gpt-4o, claude-3-opus
BASE_URLAPI 基础 URLhttps://api.openai.com/v1
API_KEYAPI 访问密钥sk-xxxxxxxx

提示

API 基础 URL 可以使用任意 OpenAI 兼容的 API 接入点,兼容市面上大多数 LLM 供应商