https://api.tokios.com/v1,将 API Key 设置为您的 sk-tok-… 密钥,并将 Model ID 设置为您在 Tokios 控制台中注册的部署名称。然后,无论该机器位于何处,Roo Code 都会通过连接器向您的本地模型发送请求。
前提条件
- 一个正在运行且已与您的本地模型配对的 Tokios 连接器——请参阅 连接器安装
- 一个已注册的模型部署名称——请参阅 注册模型
- 一个 Tokios API 密钥 (
sk-tok-…)——请参阅 API 密钥 - 在 VS Code 中安装了 Roo Code 扩展
配置 OpenAI 兼容提供商
1
打开 Roo Code 的提供商设置
在 VS Code 中打开 Roo Code 面板并进入其设置。选择 OpenAI Compatible 作为 API 提供商。
2
设置基础 URL
将 Base URL 设置为:
3
添加您的 API 密钥
将您的
sk-tok-… 密钥粘贴到 API Key 字段中。Roo Code 会在每个请求中将其作为 Bearer 令牌发送。4
设置模型 ID
将 Model ID 设置为您的 公共部署名称——也就是您在 Models 选项卡中注册的名称,例如
gemma-tunnel。这不是您的后端(Ollama、llama.cpp、vLLM 或 LM Studio)使用的本地模型 ID。将
gemma-tunnel 替换为您自己的部署名称,将 sk-tok-YOUR_KEY 替换为您自己的密钥。切勿将两者提交到共享设置文件中。选择支持工具调用的模型
Roo Code 依赖原生工具调用来读取文件、运行命令并在您的项目中应用编辑。如果底层模型不支持原生工具调用,Roo Code 无法将其响应解析为工具操作——它会重试并循环,而不是取得进展。 Tokios 将请求中的工具调用结构直接传递给您的后端;工具调用是否真正起作用完全取决于您运行的模型,而不是 Tokios 或连接器。在依赖 Roo Code 进行实际工作之前,请确认您的部署所用模型原生支持工具调用。请参阅 选择本地模型 了解如何比较适用于智能体工作负载的模型。故障排除
401 错误
401 错误
Roo Code 发送的 API 密钥缺失、格式错误或已被撤销。确认您粘贴了完整的
sk-tok-… 密钥且没有多余的空格,并在 Keys 选项卡上检查其状态。403 错误
403 错误
密钥有效但未限定于 Model ID 中的部署,或者账户已被暂停。在 Keys 选项卡上检查密钥允许的模型模式。
404 错误
404 错误
此处的 Model ID 值与已注册的部署不匹配。确认它完全匹配 Models 选项卡上的公共名称——而不是您的 Ollama/llama.cpp/vLLM/LM Studio 本地模型 ID。
503 错误
503 错误
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online。
Roo Code 不断重试同一步骤
Roo Code 不断重试同一步骤
这通常不是 Tokios 错误——这是您的部署背后的模型不支持原生工具调用的迹象。请参阅上面的 选择支持工具调用的模型。
后续步骤
选择本地模型
比较适用于 Roo Code 等编码智能体工作负载的模型和后端。
兼容客户端
查看其他 OpenAI 和 Anthropic 兼容客户端的基础 URL 和密钥设置。