Skip to main content
默认情况下,Tokios 不会存储任何请求或响应内容。请求日志仅记录每次调用的令牌数量、延迟时间、状态以及关联 ID,这些信息足以用于统计使用量,但无法反映具体的请求内容。请求日志记录功能可针对 1 工作空间单独启用:一旦工作空间管理员开启此功能,Tokios 便会保存每次 API 调用的请求内容,以便日后查阅。 您可借助此功能排查编程智能体实际发送的内容,查看客户端附带的系统提示与工具定义,或是核实同事反馈的错误响应情况。该功能默认处于关闭状态,需手动开启方可使用。
编程智能体在每次交互时都会重新发送完整对话内容,工具返回结果中也包含文件内容与命令输出。开启请求日志记录后,保存的提示内容可能包含您的源代码以及智能体读取到的各类信息。请务必将这些内容视作敏感信息,并及时告知所有需要使用该工作空间 API 密钥的人员。

存储内容说明

对于发送至您所使用模型的每一次对 /v1/chat/completions/v1/messages/v1/responses 的请求,Tokios 均会执行如下存储操作:
  • The request body as your client sent it, in the client’s own dialect (OpenAI Chat Completions, Anthropic Messages, or OpenAI Responses), before Tokios translates it for your backend.
  • 公开模型名称、发送请求的 API 密钥、请求端点信息、最终 HTTP 状态码以及关联 ID(cid),该 ID 同样会出现在请求日志中。
在存储请求内容前,Tokios 会先对内容进行脱敏处理: Tokios 绝不会存储响应内容。对于因 API 密钥无效、速率限制或模型不可识别而被网关拒绝的请求,以及通过控制台的 Playground 或健康检查发起的请求,同样不会予以存储。

启用该功能

1

打开设置页面

在控制台中打开 Settings 页面。仅工作区管理员可修改请求日志记录设置;普通成员仅能查看该功能是否处于开启状态。
2

开启请求日志记录

开启 请求日志记录 功能并确认即可。从下一个请求开始,系统便会开始存储相关数据,无需重启任何连接器或客户端。
3

读取已存储的提示内容

打开 请求 控制台。页面上的提示信息会显示请求日志记录功能已启用。点击任意请求后,滚动至 提示 区域即可查看存储的提示内容,还能确认内容是否被截断、附件是否被移除或敏感信息是否已被脱敏。
Settings 会显示是哪位用户以及何时启用了请求日志记录功能。若 Tokios 客服人员在协助您时为您开启了该功能,该记录也会显示操作者为 Tokios 工作人员。

哪些用户有权读取已存储的提示内容

  • 工作区管理员可读取工作区内所有已存储的提示内容。
  • 普通成员仅能读取使用其本人所持有 API 密钥发送的提示内容。
  • 获得您共享的密钥的用户会在其使用量页面看到请求日志记录已启用的提示信息。只有在您为该密钥设置了相应权限后,他们才能读取使用该密钥发送的提示内容,详情请参阅 允许密钥持有者读取其发送的提示内容
  • Tokios 无法通过产品界面读取已存储的提示内容。这些内容在存储时经过加密处理,而 Tokios 自带的工具仅能显示日志记录功能是否开启以及存储量大小。

允许密钥持有者读取其发送的提示内容

位于 tokios.com/usage 的使用量页面需通过 API 密钥完成身份验证,因此一旦某个密钥获得读取提示内容的权限,即便该密钥不慎泄露,攻击者也能获取过去 7 天内使用该密钥发送的所有提示内容,而不仅限于使用量数据。正因如此,在您手动设置权限前,所有密钥均无法读取提示内容,且每次仅能为一个密钥设置该权限,1。
  • 共享密钥时:在 通过邮件共享密钥 对话框中,于使用量可见性设置下方勾选 允许对方读取其发送的已存储提示内容 即可。
  • 对于已有的密钥:Keys 选项卡中编辑该密钥,勾选 允许持有此密钥的用户同样读取其中存储的提示词,随后保存即可。
持有者随后可在其使用记录页面发起查询,并在 提示词 栏目下查看内容——仅限通过该密钥发送的请求,其他密钥的记录则无法查看。取消勾选该选项即可立即撤销访问权限;此时任何后续读取操作均会被拒绝。此外,由于读取操作需在 Let them check this key’s usage 页面完成,该页面也必须保持开启状态。

留存与删除机制

  • 每条存储的提示词会在对应请求生成 7 天后被自动删除。
  • 单个工作空间最多可存储约 1 GB 的提示词内容;超出此容量后最先存储的内容会被优先删除。
  • 关闭请求记录功能后会即刻停止存储新请求信息,但此前已存储的提示词仍会保留直至到期。
  • To remove everything now, click Delete all stored prompts in Settings. This cannot be undone.

不再需要该功能时

若需获取包含延迟数据及评分的完整调用记录,或需要将提示词留存超过 7 天,建议改用专业监控工具——可参考 利用 Langfuse 追踪本地模型调用情况。请求记录功能则是便于查看已发送内容的简易方案。

API 密钥管理

可创建并分发权限受限的密钥,同时可查看各密钥持有者可访问的数据范围。

常见问题:数据隐私保护

Tokios 默认记录哪些信息,以及开启请求日志记录后会有哪些变化。