跳到主要内容

🚧 服务器连接问题

我们在此帮助您完成所有设置并确保一切顺利运行。下面提供了针对不同场景的逐步指导,以解决与 Ollama 和外部服务器(如 Hugging Face)相关的常见连接问题。

🌟 连接到 Ollama 服务器

🚀 从 Open WebUI 访问 Ollama

如果您在尝试从 Open WebUI 连接到 Ollama 时遇到困难,可能是因为 Ollama 没有监听允许外部连接的网络接口。让我们来解决这个问题:

  1. 配置 Ollama 广泛监听 🎧: 将 OLLAMA_HOST 设置为 0.0.0.0,使 Ollama 监听所有网络接口。

  2. 更新环境变量: 确保在您的部署环境中正确设置了 OLLAMA_HOST

  3. 重启 Ollama 🔄: 需要重启 Ollama 才能使更改生效。

💡 设置完成后,请通过访问 WebUI 界面验证 Ollama 是否可访问。

有关配置 Ollama 的详细说明,请参阅 Ollama 官方文档

🐳 Docker 连接错误

如果在尝试访问 Ollama 时看到连接错误,可能是由于 WebUI Docker 容器无法与主机上运行的 Ollama 服务器通信。让我们来修复这个问题:

  1. 调整网络设置 🛠️: 在 Docker 命令中使用 --network=host 标志,将容器直接链接到主机的网络。

  2. 更改端口: 记住内部端口从 3000 改为 8080。

示例 Docker 命令

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

🔗 运行上述命令后,您的 WebUI 应该可以在 http://localhost:8080 访问。

🔒 与 Hugging Face 的 SSL 连接问题

遇到 SSL 错误?这可能是 Hugging Face 服务器的问题。以下是解决方案:

  1. 检查 Hugging Face 服务器状态: 验证其是否已知宕机或存在问题。

  2. 切换端点: 如果 Hugging Face 出现故障,请在 Docker 命令中切换端点。

示例 Docker 命令(用于连接问题)

docker run -d -p 3000:8080 -e HF_ENDPOINT=https://hf-mirror.com/ --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

🍏 在 MacOS 上使用 Podman

在 MacOS 上使用 Podman?以下是如何确保连接性:

  1. 启用主机回环: 在命令中使用 --network slirp4netns:allow_host_loopback=true

  2. 设置 OLLAMA_BASE_URL: 确保它指向 http://host.containers.internal:11434

示例 Podman 命令

podman run -d --network slirp4netns:allow_host_loopback=true -p 3000:8080 -e OLLAMA_BASE_URL=http://host.containers.internal:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main