跳转到主要内容
本页面汇总了在部署及使用 Tokios 过程中最常遇到的疑问与问题。

​
部署与连接设置

出现 503 提示说明 Tokios 网关无法为所请求的模型建立有效的连接器通道。请确认以下几点：
  1. 连接器程序仍在运行且处于连接状态。
  2. 您在 API 请求中填写的模型名称与您在控制台内注册的部署项名称完全一致。
  3. 该设备在配对过程中被标记为已批准，并在控制台的 Connectors 标签页中显示为在线状态。（若您运行了高级多模型配置文件路径，还需确认 ConnectorId 以及 tokios-connector.json 中的上游模型信息与控制台内显示的连接器信息相符。）
无需。连接器仅通过 WebSocket 协议向 Tokios 发起出站连接（端口号为 443）。您无需调整防火墙设置，且您的设备上也不会有任何程序监听入站连接。
是的。只需将上游模型的 BaseUrl 指向另一台机器即可，比如 http://192.168.1.50:11434/v1。无需任何额外设置：该连接器只会向配置文件中列出的主机转发请求，而不会使用网关提供的 URL。若要将上游模型固定绑定到特定主机，只需将该主机名添加至 AllowedHosts 中；即便后续在 BaseUrl 处更改了其他设置，部署时也会直接失败。详情请参阅 连接器配置。

​
API 兼容性说明

共三种：OpenAI 聊天补全接口 /v1/chat/completions、Anthropic 消息接口 /v1/messages 以及 OpenAI 响应接口 /v1/responses，此外还支持 /v1/models 与 /v1/messages/count_tokens。网关会自动将消息接口与响应接口的请求转换为聊天补全格式供模型处理。不过依赖厂商专属后端的特定功能，例如 OpenAI 助手服务、文件管理以及模型微调功能则暂不支持。
完全可以。只需在请求体中设置 "stream": true 参数即可。无论使用何种接口，Tokios 都会以标准的 OpenAI/Anthropic 流式格式返回服务器发送的事件数据。
没有问题。对于使用 SDK 的客户端，请将基础 URL 设为 https://api.tokios.com/v1 并添加 /v1 后缀；对于采用 ANTHROPIC_BASE_URL 格式的 Anthropic 风格客户端，则设为 https://api.tokios.com 即可，无需添加 /v1 后缀，因为客户端会自动补全路径。具体设置方式请参考对应客户端的文档说明。

​
本地模型相关说明

默认情况下不会。Tokios 会将所有请求通过隧道转发至本地模型，再将响应内容实时返回给客户端。使用量统计页面仅记录令牌数量、响应延迟、状态信息以及标识符，绝不会存储任何响应内容。工作空间管理员可在控制台中开启 请求日志记录 功能，路径为 Settings。开启后，Tokios 会将每次 API 调用的请求内容加密保存 7 天，期间会移除附件并将疑似敏感信息做脱敏处理。当您查看请求日志中的某条记录时，相关内容会显示在 提示词 栏目下。只有工作空间内的用户才能读取这些存储的提示词：管理员可查看全部内容，普通成员仅能查看使用自身 API 密钥发送的请求，而共享了特定密钥的用户也仅能在获得授权的前提下查看对应内容。您随时可关闭该功能或删除所有已存储的提示词。详情请参阅 请求日志记录。
任何提供 OpenAI 兼容聊天补全 API 的服务器均可使用：Ollama、llama.cpp、vLLM 和 LM Studio 是最常见的选择。请设置上游 BaseUrl（需包含 /v1）于 tokios-connector.json 中。详情请参阅后端配置。
当然可以。借助 Routes 与 Upstreams 的组合，单个连接器便可同时服务多个模型，您还能为每个模型分别注册一个公开名称。当然，您也可为每个模型单独配置一个连接器。详情请参阅 模型路由机制。

​
账户与计费相关事宜

是的，社区版完全免费且无需绑定信用卡，您可利用自有硬件尽情体验 Tokios 的各项运行与评估功能。
进入控制台后定位至 API Keys 页面，找到目标密钥并点击 Revoke 即可。该密钥即刻失去认证效力。