/v1 这种不该出现的内容;要么 model 字段的值并非您所注册的 部署 名称;要么该部署对应的连接器并未在线运行;又或者上游模型 ID 本身不支持客户端的请求功能(例如工具调用)。在认定问题出在其他深层原因之前,请务必按此页面的顺序逐一排查。
我的客户端究竟使用哪个基准网址呢?
请依据客户端所遵循的 API 规范来选取基准网址。客户端本身会自行添加后续路径片段(/chat/completions、/responses或/messages),您只需设定根路径即可。
该方式在 curl 中可正常运行,但在我的智能体中却失败。
如果直接发送curl 请求能够成功,但在客户端、框架或智能体内部执行相同调用却失败,请按以下顺序排查:
基础 URL 中必须包含完整的请求路径。
基础 URL 中必须包含完整的请求路径。
部分客户端仅需要根路径(即
https://api.tokios.com/v1),随后自行添加 /chat/completions;另一些客户端则要求直接填入完整路径。若您复制的 URL 末尾已包含 /chat/completions、/responses 或 /messages,而填入的字段本身还会追加路径,便会导致路径重复或格式错误。此时应将基础 URL 设为上表中所示的根路径,让客户端自行添加后续内容即可。客户端要求使用工具调用功能,但当前模型并不支持。
客户端要求使用工具调用功能,但当前模型并不支持。
各类智能体框架与编程助手往往会在每次请求中发送
tools 数组,即便只是简单的提示信息。Tokios 会将 tools 结构原样传递给模型,但模型本身必须支持函数调用功能;若不支持,请求便可能失败,或者模型会默默忽略这些工具。在进一步排查客户端问题前,请先确认底层模型确实具备工具调用能力。模型名称并不等同于部署名称。
模型名称并不等同于部署名称。
请求中的
model 字段必须为您所注册的公开部署名称,即控制台 Models 标签页中的名称(例如 gemma-tunnel),而非后端所提供的上游模型 ID(例如 gemma:7b)。使用正确部署名称的 curl 请求能够正常工作,而仍配置了后端本地 ID 的客户端则会返回 404 错误。各类错误代码的具体含义。
请单独验证隧道的连通性。
在继续调试客户端配置之前,请先确定问题出在客户端还是模型或连接器本身。打开控制台中的 Playground 并向同一部署环境发送测试提示词即可,该操作基于您当前登录的会话执行,因此无需提供 API 密钥。若测试环境运行正常,说明隧道与模型均无异常,问题可能出在客户端的基础 URL、上游模型 ID 或请求格式上。反之,若测试环境同样无法运行,则问题源于客户端上游环节,此时需检查连接器与部署设置。后续操作指引
兼容的客户端列表
各类受支持客户端的配置说明,包括基础 URL 与 API 密钥设置,均汇总于同一表格中。
Claude Code
Anthropic 风格配置所需的环境变量与模型参数设置。
软件开发工具包与框架
LangChain、LlamaIndex、Vercel AI SDK 以及 Pydantic AI 的配置方法。
API 端点说明
各接口的完整请求与响应结构定义。