🤖 模型
Open WebUI 中 工作区
的 模型
部分是一个强大的工具,允许您创建和管理针对特定用途定制的自定义模型。此部分作为所有模型文件的中心枢纽,提供了多种功能,包括编辑、克隆、共享、导出和隐藏您的模型。
模型文件管理
在 模型
部分中,您可以对模型文件执行以下操作:
- 编辑:深入模型文件的细节并进行修改,如更改其角色等。
- 克隆:复制一个模型文件,并在克隆后的
模型ID
后添加-clone
。请注意,无法克隆基础模型;必须先创建一个模型才能进行克隆。 - 共享:通过点击
共享
按钮将您的模型文件与 Open WebUI 社区分享,该按钮会将您重定向至 https://openwebui.com/models/create。 - 导出:将模型文件的
.json
导出下载到您的电脑。 - 隐藏:从聊天中的模型选择器下拉菜单中隐藏该模型文件。
模型文件编辑
在编辑模型文件时,您可以自定义以下设置:
- 头像照片:上传一张代表您模型文件的头像照片。
- 模型名称:更改模型文件的名称。
- 系统提示:为您的模型文件提供可选的系统提示。
- 模型参数:调整模型文件的参数。
- 提示建议:添加将在新聊天页面上显示的提示。
- 文档:向模型文件中添加文档(始终是 RAG [检索增强生成])。
- 工具、过滤器和操作:选择可供模型文件使用的工具、过滤器和操作。
- 视觉:切换以启用
视觉
功能,支持多模态。 - 标 签:为模型文件添加标签,这些标签将在模型选择器下拉菜单中的模型名称旁边显示。
模型发现与导入/导出
模型
部分还包括导入和导出模型的功能:
- 导入模型:使用此按钮从
.json
文件或其他来源导入模型。 - 导出模型:使用此按钮将所有模型文件导出为单个
.json
文件。
要下载模型,请导航到 Connections
标签下的 Ollama Settings
。
或者,您也可以通过在模型选择器下拉菜单中输入类似 ollama run hf.co/[模型创建者]/[模型名称]
的命令直接下载模型。此操作将创建一个标记为“拉取 [模型名称]”的按钮用于下载。
模型切换
示例:在多阶段任务中切换 Mistral、LLaVA 和 GPT-3.5
- 场景:一个多阶段对话涉及不同类型的任务,例如从简单的常见问题解答开始,解释图像,然后生成创造性的回应。
- 切换原因:用户可以根据每个阶段的具体需求利用每种模型的优势:
- Mistral 用于一般问题,以减少计算时间和成本。
- LLaVA 用于视觉任务,以从基于图像的数据中获取见解。
- GPT-3.5 用于生成更复杂和细致的语言输出。
- 流程:根据任务类型,用户在不同模型之间切换,以最大化效率和响应质量。
如何操作:
- 选择模型:在聊天界面中,从模型切换器下拉菜单中选择所需的模型。您可以同时选择最多两个模型,系统会生成两个响应。您可以通过使用前后箭头在这两个响应之间切换。
- 上下文保留:Open WebUI 在模型切换过程中保留对话上下文,确保平滑过渡。