provider、model 以及 apiBase。只需将 apiBase 的值设为 https://api.tokios.com/v1,并借助 sk-tok-… 键指定 Tokios 部署 名称作为 model,这样 Continue 便能通过经过身份验证的端点访问本地模型,且无需在局域网中开放任何端口。
前置条件
- 确保 Tokios 连接器与本地模型均已正常运行——详情参见 连接器安装
- 需事先注册好模型部署名称——详情参见 注册模型
- 需获取 Tokios API 密钥(
sk-tok-…)——详情参见 API 密钥管理 - 您的编辑器内须已安装 Continue
配置 Continue
1
打开 Continue 的配置文件
Continue 会从您的主目录中读取 YAML 配置文件:该目录名为
.continue,以点号开头。旧版 Continue 使用的是 config.json,若你仍在使用该版本,则需迁移至 YAML 格式,或将下方内容转换为当前版本所需的 JSON 架构。2
添加一个兼容 OpenAI 的模型配置块
利用兼容 OpenAI 的
provider 添加模型条目,将 apiBase 设为 Tokios 的地址,并将 model 设为你自定义的 公开部署名称,例如 gemma-tunnel:model 即你在 Models 页面中注册的部署名称,而非 Ollama、llama.cpp、vLLM 或 LM Studio 中的本地模型 ID。请对照当前安装的 Continue 版本配置架构,确认 provider、apiBase、apiKey 这些键名是否准确。3
让聊天、编辑及自动补全功能均调用同一模型
Continue 允许为聊天、编辑及自动补全功能分别指定不同模型。若希望所有功能均调用本地模型,只需在各项配置中引用同一个
Tokios 模型块即可,这样所有功能都会访问同一 Tokios 端点。具体角色配置语法请参考当前安装的 Continue 版本配置架构。将
gemma-tunnel 替换为你注册的部署名称,并将 sk-tok-YOUR_KEY 替换为你自己的 API 密钥。切勿将此类信息写入共享或版本控制中的配置文件。切勿将 Ollama 绑定至 0.0.0.0
按照官方说明,若要让其他机器访问 Ollama,需在运行 Ollama 的机器上设置OLLAMA_HOST=0.0.0.0,并将 apiBase 指向该机器的局域网 IP 地址(如 http://192.168.1.50:11434)。如此设置后 Ollama 会监听所有网络接口,但 Ollama 本身并无内置身份验证机制,任何能访问该端口的设备均可无限制地查看模型列表并执行推理。
建议将 Ollama 保留在 127.0.0.1 上,并在其旁部署 Tokios 连接器。该连接器会主动连接至 https://api.tokios.com,而 Ollama 不会开放任何入站端口,所有访问请求均需携带有效的 sk-tok-… 令牌方可生效。
- 严禁无身份验证的公开访问——任何外部设备均不得直接访问你的局域网或机器端口。
- Same
apiBasefrom any network —https://api.tokios.com/v1works whether Continue is on the same LAN or a different building entirely. - 具备作用域限制且可撤销的令牌 — 您可以在 Keys 标签页中停用已泄露的令牌,而无需影响 Ollama 或连接器。
故障排查
401 错误
401 错误
您提交的 API 密钥内容缺失、格式有误或已被撤销。请确认配置中的
apiKey 字段确实包含完整的 sk-tok-… 令牌内容且不含多余空格,同时前往 Keys 标签页查看该令牌的状态。403 错误
403 错误
该令牌虽存在,但并未被授权用于您在
model 中指定的部署环境,或者您的账户目前处于停用状态。请前往 Keys 标签页查看该令牌所适用的模型范围。404 错误
404 错误
您配置中的
model 值无法与任何已注册的部署项相匹配。请确认该值确实与 Models 标签页中显示的公开名称一致 — 该名称并非您在 Ollama、llama.cpp、vLLM 或 LM Studio 中使用的本地模型 ID。503 错误
503 错误
对应部署所使用的连接器当前处于离线状态,或者已达到并发处理上限。请查看 Connectors 标签页 — 该连接器状态应显示为 Online,且运行该连接器的机器也需保持在线且可正常访问。
后续操作
Ollama 远程访问
请查阅关于禁止将 Ollama 绑定至
0.0.0.0、端口转发及隧道机制的完整论证,以及仅支持出站连接的替代方案。兼容的客户端
关于其他兼容 OpenAI 与 Anthropic 协议的客户端,请参考其基础 URL 与 API 密钥的部署说明。