跳转到主要内容
在 Open WebUI 中,打开 Admin Settings → Connections → OpenAI,点击 Add Connection,并将 URL 设置为 https://api.tokios.com/v1,使用您的 sk-tok-… 密钥作为 API 密钥。Open WebUI 会调用 /v1/models 来验证连接并填充其模型下拉菜单——Tokios 实现了该端点,因此验证会成功,并且您注册的部署会立即显示出来。

前提条件

在添加连接之前,请准备好以下内容:

连接器已配对

在模型旁边安装并配对 tokios-connector。

模型已注册

为您希望 Open WebUI 看到的模型注册一个部署(公共名称)。

API 密钥已创建

创建一个 sk-tok-… 密钥,可选择将其范围限定为该部署。

支持的后端

确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。

添加 Tokios 作为 OpenAI 连接

1

打开连接设置

在 Open WebUI 中,前往 Admin Settings → Connections。具体的菜单路径和标签可能因 Open WebUI 版本而异——请根据您运行的版本进行确认。
2

添加 OpenAI 连接

在 OpenAI 部分下,点击 Add Connection(有时显示为 + 按钮)。
3

输入 Tokios URL 和密钥

设置连接字段:
  • URL: https://api.tokios.com/v1
  • Key: sk-tok-YOUR_KEY
保存连接。
切勿将真实密钥粘贴到共享或公共 Open WebUI 实例的配置中,否则其他管理员或导出的设置可能会暴露它。请像对待任何其他凭据一样对待 sk-tok-… 密钥。

您的模型会自动出现

Open WebUI 会对您输入的 URL 调用 GET /v1/models 以验证连接并填充模型选择器。Tokios 实现了 /v1/models,返回您的密钥所限定范围的部署——因此连接验证成功,并且您的部署名称(例如 gemma-tunnel)会出现在 Open WebUI 的模型下拉菜单中,无需任何手动输入。 这一点值得特别说明,因为并非所有端点都如此:某些自定义 OpenAI 兼容端点完全跳过 /v1/models,这会导致 Open WebUI 的连接检查失败,或者即使聊天补全本来可以工作,模型列表仍为空。Tokios 将 /v1/models 作为 API 的正式组成部分实现,因此避免了这种失败模式。 从下拉菜单中选择您想要的部署并开始聊天——Open WebUI 发送的每个请求都会通过隧道,使用您的密钥作为 Bearer 令牌,发送到 https://api.tokios.com/v1/chat/completions,最终到达您的本地后端。

托管 UI,本地模型

这种设置解决的常见场景是:您在 VPS、容器主机或任何非运行模型的机器上运行 Open WebUI,并且希望在不将该模型的端口暴露给互联网的情况下访问它。 因为 Tokios 连接器只从运行模型的机器建立出站连接,所以您不需要:
  • 仅为了让远程 Open WebUI 能够访问它,就将您的后端绑定到 0.0.0.0(例如 OLLAMA_HOST=0.0.0.0)。
  • 摆弄 host.docker.internal 或容器网络技巧,以将容器化的 Open WebUI 桥接到主机或另一台机器上的模型。
  • 在两台机器之间打开入站端口或设置 VPN。
Open WebUI(无论托管在哪里)都与 https://api.tokios.com/v1 通信,并使用您的 sk-tok-… 密钥进行身份验证。Tokios 将请求通过隧道路由到模型旁运行的连接器,而模型始终只在 localhost 上提供服务。

故障排除

检查 URL 是否包含 /v1(https://api.tokios.com/v1,而不是裸域名),并且密钥以 sk-tok- 开头。401 表示密钥缺失或无效;403 表示密钥未限定到您请求的模型。有关完整的错误列表,请参阅 API 端点。
确保您已在 Models 选项卡上注册了至少一个部署,并且您的密钥的模型模式范围(在 Keys 选项卡上设置)包含该部署。
在 Connectors 选项卡上确认连接器是否在线。503 响应表示连接器离线或超过其并发上限。

现在在其他地方投入使用

一旦 Open WebUI 通过 Tokios 与您的模型通信,相同的部署和密钥就可以从任何其他 OpenAI 或 Anthropic 兼容客户端使用——无需为每个客户端进行额外设置。

兼容客户端

查看其他客户端的基础 URL 和密钥设置。

API 密钥

为使用同一 Open WebUI 实例的团队成员创建单独的限定范围密钥。