里程碑 1:连接运行时
安装连接器并注册模型,使 Tokios 可以访问它。1
配对连接器
在 Setup 选项卡中,你可以选择为连接器命名,然后点击 Start pairing。Tokios 会显示一个一次性的配对码,例如
TKS-XXXX-XXXX,有效期约为 15 分钟。配对码是用于配对的标识——它不是你的 API 密钥(你将在里程碑 3 中创建 API 密钥)。2
安装连接器并批准连接
在模型所在的机器上,运行控制台为你的操作系统显示的一行安装命令:已安装 连接器通过单个 WebSocket 向外建立连接——无需入站端口或公共 IP。返回控制台,approve 该设备。你的令牌会通过隧道安全传送;你无需将它粘贴到文件中。
tokios-connector?跳过安装程序,直接传入配对码:Already installed
3
注册模型
在 Models 选项卡中,选择要暴露的模型以及客户端将使用的公共名称——例如
gemma-tunnel。该公共名称是每个 API 请求中的 "model" 值。成功状态: 你的模型出现在 Models 选项卡中,并有一个活跃的连接器。隧道已建立——但你尚未测试它。
里程碑 2:验证端到端连通性
在创建 API 密钥之前,先在 Playground 中测试。这可以确认隧道和模型能协同工作。1
在 Playground 中试用
打开 Playground 选项卡,选择你的模型,输入提示词,然后点击 Run。Playground 使用你当前的会话进行身份验证——无需 API 密钥——因此你可以在接入客户端之前确认隧道正常工作。成功状态: 你通过 Tokios 端点收到了本地模型的回复。如果 Playground 返回了补全结果,说明隧道运行正常,你可以开始接入客户端了。
里程碑 3:接入客户端
创建 API 密钥并将编程智能体指向 Tokios。1
创建 API 密钥
在 Keys 选项卡中,点击 Create key。为密钥指定一个显示名称,并可选择使用模型匹配模式限制其范围(保留
* 可允许访问你的所有模型)。请立即复制 sk-tok-… 密钥——它只会显示一次。2
配置客户端并进行测试
选择你的客户端。每个客户端都需要使用与其协议匹配的基础 URL、你的 每个客户端的完整设置:Claude Code · OpenAI Codex。调用成功后会返回与客户端协议匹配的补全结果——对于上面的 curl,返回的是 OpenAI 格式的响应(已缩略):成功状态: 你的客户端通过 Tokios 与你的本地模型通信。响应来自你自己的硬件,而不是云端提供商。
sk-tok-… 密钥和你的公共模型名称:- Anthropic 风格(Claude Code):
https://api.tokios.com - OpenAI 风格(Codex、OpenAI SDK):
https://api.tokios.com/v1
接下来做什么?
与 Claude Code 配合使用
将 Claude Code 指向 Tokios,让你的编程智能体使用你自己的本地模型运行。
暴露更多模型
通过配置文件,使用一个连接器提供多个模型。