Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
运行简单检查，以比较由本地模型支持的 Tokios 部署之间的延迟、流式传输和行为。
model 字段中的部署名称。
curl https://api.tokios.com/v1/chat/completions \
-H "Authorization: Bearer sk-tok-YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "coder-local",
"messages": [
{ "role": "user", "content": "Reply with one short sentence." }
]
}'
curl https://api.tokios.com/v1/chat/completions \
-H "Authorization: Bearer sk-tok-YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "coder-local",
"stream": true,
"messages": [
{ "role": "user", "content": "Write a five item checklist for reviewing a pull request." }
]
}'
model。
# First deployment
curl https://api.tokios.com/v1/chat/completions \
-H "Authorization: Bearer sk-tok-YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"coder-local","messages":[{"role":"user","content":"Explain this function in plain English."}]}'
# Second deployment
curl https://api.tokios.com/v1/chat/completions \
-H "Authorization: Bearer sk-tok-YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"fast-draft","messages":[{"role":"user","content":"Explain this function in plain English."}]}'
| 部署 | 首次输出时间 | 总时间 | 质量备注 | 错误 |
|---|---|---|---|---|
coder-local | ||||
fast-draft |
curl 工作后，通过您计划使用的客户端进行测试。
| 客户端类型 | 测试内容 |
|---|---|
| Claude Code | 小型一次性提示，使用 --model your-deployment |
| OpenAI Codex | 使用 Tokios 配置文件提出的简短仓库问题 |
| SDK 应用 | 来自应用将使用的相同代码路径的一个请求 |
| 聊天 UI | 一个简短提示和一个较长的流式传输响应 |
| 信号 | 可能含义 |
|---|---|
| 首令牌缓慢 | 后端加载、大型提示、冷模型或硬件限制 |
| 令牌生成快但回答质量差 | 模型可能不适合工作流 |
在 curl 中有效但在客户端中无效 | 基础 URL、API 格式或模型字段不匹配 |
| 在本地有效但通过 Tokios 无效 | 连接器、部署或 API 密钥问题 |
model 值。