跳到主要内容

⚙️ 聊天参数

在 Open WebUI 中,设置系统提示高级参数有三个层级:每聊天实例、每模型和每账户。这种层次化的系统既保证了灵活性,又维持了结构化的管理和控制。

系统提示与高级参数层级图

层级定义修改权限覆盖能力
每聊天实例特定聊天实例的系统提示和高级参数用户可以修改,但不能覆盖模型特定的设置不能覆盖模型特定的设置
每模型特定模型的默认系统提示和高级参数管理员可以设置,用户不能修改管理员设置优先,用户设置可被覆盖
每账户特定用户账户的默认系统提示和高级参数用户可以设置,但可能被模型特定设置覆盖用户设置可能被模型特定设置覆盖

1. 每聊天实例

  • 描述: 每聊天实例设置指的是为特定聊天会话配置的系统提示和高级参数。这些设置仅适用于当前对话,不会影响未来的聊天。
  • 如何设置: 用户可以在 Open WebUI 右侧边栏的聊天控制部分中,修改特定聊天实例的系统提示和高级参数。
  • 覆盖能力: 用户无法覆盖管理员在每模型基础上设置的系统提示或特定的高级参数(参见#2)。这确保了一致性并遵循模型特定的设置。
示例用例
每聊天实例:

假设用户希望为特定对话设置自定义系统提示。他们可以通过访问聊天控制部分并修改系统提示字段来实现。这些更改仅适用于当前聊天会话。

2. 每模型

  • 描述: 每模型设置指的是为特定模型配置的默认系统提示和高级参数。这些设置适用于使用该模型的所有聊天实例。
  • 如何设置: 管理员可以在 Open WebUI 的工作区中的模型部分设置特定模型的默认系统提示和高级参数。
  • 覆盖能力: 用户账户无法修改每模型基础上的系统提示或特定的高级参数(参见#3)。此限制防止用户不当更改默认设置。
  • 上下文长度保留: 当管理员在工作区部分手动设置模型的系统提示或特定的高级参数时,这些设置不能在常规设置聊天控制部分中被用户账户覆盖或调整。这确保了一致性,并防止因用户上下文长度设置变化而频繁重新加载模型。
  • 模型优先级: 如果管理员在工作区部分预设了模型的系统提示或特定的高级参数,则用户账户在常规设置聊天控制部分所做的任何上下文长度更改都将被忽略,保持该模型的预设值。请注意,管理员未触及的参数仍可在每账户或每聊天实例基础上由用户账户手动调整。
示例用例
每模型:

假设管理员希望为特定模型设置默认系统提示。他们可以通过访问模型部分并修改相应模型的系统提示字段来实现。使用该模型的所有聊天实例将自动应用该模型的系统提示和高级参数。

3. 每账户

  • 描述: 每账户设置指的是为特定用户账户配置的默认系统提示和高级参数。任何用户特定的更改可以在较低级别设置未定义的情况下作为备用。
  • 如何设置: 用户可以在 Open WebUI 的设置菜单的常规部分中设置自己的系统提示和高级参数。
  • 覆盖能力: 用户可以为自己账户设置系统提示,但需注意,如果管理员已在每模型基础上设置了系统提示或特定的高级参数,这些参数仍可能被覆盖。
示例用例
每账户:

假设用户希望为自己的账户设置系统提示。他们可以通过访问设置菜单并修改系统提示字段来实现。

优化系统提示设置以获得最大灵活性

额外提示

此提示适用于管理员和用户账户。为了最大限度地提高系统提示的灵活性,我们建议考虑以下设置:

  • 常规设置系统提示字段中指定您的主要系统提示(例如,赋予 LLM 一个特征角色)。这将在每账户级别设置系统提示,使其适用于所有 LLM,无需在工作区部分中对每个模型进行调整。

  • 对于次要系统提示(例如,赋予 LLM 一项任务),选择将其放在聊天控制侧边栏的系统提示字段(每聊天实例)或工作区部分的模型部分(每模型)中进行设置。这使您账户级别的系统提示能够与聊天控制提供的每聊天实例系统提示或模型提供的每模型系统提示协同工作。

  • 作为管理员,您应通过模型部分为每个模型设置 LLM 参数,以获得最佳灵活性。对于这两个次要系统提示,请确保以最大化灵活性和最小化不同账户或聊天实例所需调整的方式进行设置。管理员账户和所有用户账户都必须理解聊天控制模型部分中的系统提示应用于 LLM 的优先顺序。