https://api.tokios.com/v1,粘贴 sk-tok-… 密钥,并使用您的 Tokios 部署名称作为模型——这样 Jan 就会与运行在不同机器上的模型通信,而不仅仅是本地安装的模型。
前提条件
连接器已配对
在您希望 Jan 访问的模型旁边安装并配对
tokios-connector。模型已注册
为该模型注册一个部署(公共名称)。
API 密钥已创建
创建一个
sk-tok-… 密钥,可选择将其范围限定为该部署。支持的后端
确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。
在 Jan 中添加 Tokios 作为模型提供商
1
打开 Jan 的模型提供商设置
在 Jan 中,打开 Settings → Model Providers。具体的菜单路径和标签可能因 Jan 版本而异——请根据您运行的版本进行确认。
2
添加 OpenAI 兼容提供商
使用 Jan 的 OpenAI-compatible 选项添加自定义提供商。
3
设置基础 URL 和 API 密钥
输入 Tokios 端点和您的密钥:保存提供商。
4
添加您的部署作为模型
使用您的公共部署名称添加模型条目,也就是您在 Models 选项卡中注册的名称,例如
gemma-tunnel。这是 Jan 在 model 字段中发送的值;它不是 Ollama、llama.cpp、vLLM 或 LM Studio 的本地模型 ID。将
gemma-tunnel 替换为您注册的部署名称,将 sk-tok-YOUR_KEY 替换为您自己的密钥。切勿将两者提交到共享配置文件中。笔记本 UI,桌面模型
这解决了一个常见场景:Jan 安装在笔记本电脑上,但您真正想用的模型——比这台笔记本电脑能运行的任何模型都大——位于网络中的另一台桌面电脑或服务器上,甚至远在别处。 您不必局限于 Jan 的设备内模型,也不必尝试将桌面电脑的后端直接暴露给笔记本电脑。桌面电脑上的连接器会建立到 Tokios 的出站连接,而笔记本电脑上的 Jan 则调用https://api.tokios.com/v1 并使用您的 sk-tok-… 密钥。这样,您既能使用 Jan 的本地优先 UI,又能调用并非运行在当前输入设备上的模型。
故障排除
401 错误
401 错误
Jan 发送的 API 密钥缺失、格式错误或已被撤销。确认您粘贴了完整的
sk-tok-… 密钥,没有额外的空白字符,并在 Keys 选项卡上检查其状态。404 错误
404 错误
Jan 发送的模型值与已注册的部署不匹配。确认 Jan 中的模型名称与 Models 选项卡上的公共名称完全一致——而不是您的 Ollama/llama.cpp/vLLM/LM Studio 本地模型 ID。
503 错误
503 错误
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online,并且运行它的机器需要仍然处于运行状态且可访问。
后续步骤
兼容客户端
查看其他 OpenAI 和 Anthropic 兼容客户端的基础 URL 和密钥设置。
API 密钥
为团队成员和智能体创建、限定范围并轮换
sk-tok-… 密钥。