跳转到主要内容
Roo Code 通过您在设置面板中配置的提供商配置文件与模型通信。添加 OpenAI Compatible 提供商,将 Base URL 设置为 https://api.tokios.com/v1,将 API Key 设置为您的 sk-tok-… 密钥,并将 Model ID 设置为您在 Tokios 控制台中注册的部署名称。然后,无论该机器位于何处,Roo Code 都会通过连接器向您的本地模型发送请求。

前提条件

  • 一个正在运行且已与您的本地模型配对的 Tokios 连接器——请参阅 连接器安装
  • 一个已注册的模型部署名称——请参阅 注册模型
  • 一个 Tokios API 密钥 (sk-tok-…)——请参阅 API 密钥
  • 在 VS Code 中安装了 Roo Code 扩展

配置 OpenAI 兼容提供商

1

打开 Roo Code 的提供商设置

在 VS Code 中打开 Roo Code 面板并进入其设置。选择 OpenAI Compatible 作为 API 提供商。
2

设置基础 URL

将 Base URL 设置为:
3

添加您的 API 密钥

将您的 sk-tok-… 密钥粘贴到 API Key 字段中。Roo Code 会在每个请求中将其作为 Bearer 令牌发送。
4

设置模型 ID

将 Model ID 设置为您的 公共部署名称——也就是您在 Models 选项卡中注册的名称,例如 gemma-tunnel。这不是您的后端(Ollama、llama.cpp、vLLM 或 LM Studio)使用的本地模型 ID。
将 gemma-tunnel 替换为您自己的部署名称,将 sk-tok-YOUR_KEY 替换为您自己的密钥。切勿将两者提交到共享设置文件中。

选择支持工具调用的模型

Roo Code 依赖原生工具调用来读取文件、运行命令并在您的项目中应用编辑。如果底层模型不支持原生工具调用,Roo Code 无法将其响应解析为工具操作——它会重试并循环,而不是取得进展。 Tokios 将请求中的工具调用结构直接传递给您的后端;工具调用是否真正起作用完全取决于您运行的模型,而不是 Tokios 或连接器。在依赖 Roo Code 进行实际工作之前,请确认您的部署所用模型原生支持工具调用。请参阅 选择本地模型 了解如何比较适用于智能体工作负载的模型。
不支持原生工具调用的模型将无法与 Roo Code 一起使用,即使它可能通过同一部署进行普通聊天时工作正常。如果 Roo Code 似乎卡在重试同一步骤,这是首先要检查的事项。

故障排除

Roo Code 发送的 API 密钥缺失、格式错误或已被撤销。确认您粘贴了完整的 sk-tok-… 密钥且没有多余的空格,并在 Keys 选项卡上检查其状态。
密钥有效但未限定于 Model ID 中的部署,或者账户已被暂停。在 Keys 选项卡上检查密钥允许的模型模式。
此处的 Model ID 值与已注册的部署不匹配。确认它完全匹配 Models 选项卡上的公共名称——而不是您的 Ollama/llama.cpp/vLLM/LM Studio 本地模型 ID。
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online。
这通常不是 Tokios 错误——这是您的部署背后的模型不支持原生工具调用的迹象。请参阅上面的 选择支持工具调用的模型。

后续步骤

选择本地模型

比较适用于 Roo Code 等编码智能体工作负载的模型和后端。

兼容客户端

查看其他 OpenAI 和 Anthropic 兼容客户端的基础 URL 和密钥设置。