跳转到主要内容
Jan 是一款以本地优先的桌面应用,通常会在设备上运行模型,但它也可以添加自定义/远程 OpenAI 兼容提供商。将该提供商指向 https://api.tokios.com/v1,粘贴 sk-tok-… 密钥,并使用您的 Tokios 部署名称作为模型——这样 Jan 就会与运行在不同机器上的模型通信,而不仅仅是本地安装的模型。

前提条件

连接器已配对

在您希望 Jan 访问的模型旁边安装并配对 tokios-connector。

模型已注册

为该模型注册一个部署(公共名称)。

API 密钥已创建

创建一个 sk-tok-… 密钥,可选择将其范围限定为该部署。

支持的后端

确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。

在 Jan 中添加 Tokios 作为模型提供商

1

打开 Jan 的模型提供商设置

在 Jan 中,打开 Settings → Model Providers。具体的菜单路径和标签可能因 Jan 版本而异——请根据您运行的版本进行确认。
2

添加 OpenAI 兼容提供商

使用 Jan 的 OpenAI-compatible 选项添加自定义提供商。
3

设置基础 URL 和 API 密钥

输入 Tokios 端点和您的密钥:
保存提供商。
4

添加您的部署作为模型

使用您的公共部署名称添加模型条目,也就是您在 Models 选项卡中注册的名称,例如 gemma-tunnel。这是 Jan 在 model 字段中发送的值;它不是 Ollama、llama.cpp、vLLM 或 LM Studio 的本地模型 ID。
将 gemma-tunnel 替换为您注册的部署名称,将 sk-tok-YOUR_KEY 替换为您自己的密钥。切勿将两者提交到共享配置文件中。

笔记本 UI,桌面模型

这解决了一个常见场景:Jan 安装在笔记本电脑上,但您真正想用的模型——比这台笔记本电脑能运行的任何模型都大——位于网络中的另一台桌面电脑或服务器上,甚至远在别处。 您不必局限于 Jan 的设备内模型,也不必尝试将桌面电脑的后端直接暴露给笔记本电脑。桌面电脑上的连接器会建立到 Tokios 的出站连接,而笔记本电脑上的 Jan 则调用 https://api.tokios.com/v1 并使用您的 sk-tok-… 密钥。这样,您既能使用 Jan 的本地优先 UI,又能调用并非运行在当前输入设备上的模型。

故障排除

Jan 发送的 API 密钥缺失、格式错误或已被撤销。确认您粘贴了完整的 sk-tok-… 密钥,没有额外的空白字符,并在 Keys 选项卡上检查其状态。
Jan 发送的模型值与已注册的部署不匹配。确认 Jan 中的模型名称与 Models 选项卡上的公共名称完全一致——而不是您的 Ollama/llama.cpp/vLLM/LM Studio 本地模型 ID。
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online,并且运行它的机器需要仍然处于运行状态且可访问。

后续步骤

兼容客户端

查看其他 OpenAI 和 Anthropic 兼容客户端的基础 URL 和密钥设置。

API 密钥

为团队成员和智能体创建、限定范围并轮换 sk-tok-… 密钥。