https://api.tokios.com/v1,使用您的 sk-tok-… 密钥作为 API 密钥。Open WebUI 会调用 /v1/models 来验证连接并填充其模型下拉菜单——Tokios 实现了该端点,因此验证会成功,并且您注册的部署会立即显示出来。
前提条件
在添加连接之前,请准备好以下内容:连接器已配对
在模型旁边安装并配对
tokios-connector。模型已注册
为您希望 Open WebUI 看到的模型注册一个部署(公共名称)。
API 密钥已创建
创建一个
sk-tok-… 密钥,可选择将其范围限定为该部署。支持的后端
确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。
添加 Tokios 作为 OpenAI 连接
1
打开连接设置
在 Open WebUI 中,前往 Admin Settings → Connections。具体的菜单路径和标签可能因 Open WebUI 版本而异——请根据您运行的版本进行确认。
2
添加 OpenAI 连接
在 OpenAI 部分下,点击 Add Connection(有时显示为 + 按钮)。
3
输入 Tokios URL 和密钥
设置连接字段:保存连接。
- URL:
https://api.tokios.com/v1 - Key:
sk-tok-YOUR_KEY
您的模型会自动出现
Open WebUI 会对您输入的 URL 调用GET /v1/models 以验证连接并填充模型选择器。Tokios 实现了 /v1/models,返回您的密钥所限定范围的部署——因此连接验证成功,并且您的部署名称(例如 gemma-tunnel)会出现在 Open WebUI 的模型下拉菜单中,无需任何手动输入。
这一点值得特别说明,因为并非所有端点都如此:某些自定义 OpenAI 兼容端点完全跳过 /v1/models,这会导致 Open WebUI 的连接检查失败,或者即使聊天补全本来可以工作,模型列表仍为空。Tokios 将 /v1/models 作为 API 的正式组成部分实现,因此避免了这种失败模式。
从下拉菜单中选择您想要的部署并开始聊天——Open WebUI 发送的每个请求都会通过隧道,使用您的密钥作为 Bearer 令牌,发送到 https://api.tokios.com/v1/chat/completions,最终到达您的本地后端。
托管 UI,本地模型
这种设置解决的常见场景是:您在 VPS、容器主机或任何非运行模型的机器上运行 Open WebUI,并且希望在不将该模型的端口暴露给互联网的情况下访问它。 因为 Tokios 连接器只从运行模型的机器建立出站连接,所以您不需要:- 仅为了让远程 Open WebUI 能够访问它,就将您的后端绑定到
0.0.0.0(例如OLLAMA_HOST=0.0.0.0)。 - 摆弄
host.docker.internal或容器网络技巧,以将容器化的 Open WebUI 桥接到主机或另一台机器上的模型。 - 在两台机器之间打开入站端口或设置 VPN。
https://api.tokios.com/v1 通信,并使用您的 sk-tok-… 密钥进行身份验证。Tokios 将请求通过隧道路由到模型旁运行的连接器,而模型始终只在 localhost 上提供服务。
故障排除
Open WebUI 显示 "could not connect" 或无法验证连接
Open WebUI 显示 "could not connect" 或无法验证连接
检查 URL 是否包含
/v1(https://api.tokios.com/v1,而不是裸域名),并且密钥以 sk-tok- 开头。401 表示密钥缺失或无效;403 表示密钥未限定到您请求的模型。有关完整的错误列表,请参阅 API 端点。连接验证成功,但聊天请求失败
连接验证成功,但聊天请求失败
在 Connectors 选项卡上确认连接器是否在线。
503 响应表示连接器离线或超过其并发上限。现在在其他地方投入使用
一旦 Open WebUI 通过 Tokios 与您的模型通信,相同的部署和密钥就可以从任何其他 OpenAI 或 Anthropic 兼容客户端使用——无需为每个客户端进行额外设置。兼容客户端
查看其他客户端的基础 URL 和密钥设置。
API 密钥
为使用同一 Open WebUI 实例的团队成员创建单独的限定范围密钥。