Skip to main content
기본적으로 Tokios는 요청 및 응답 본문을 저장하지 않습니다. 요청 로그에는 각 호출에 대한 토큰 수, 지연 시간, 상태 코드, 그리고 상관관계 ID만 기록됩니다. 이 정보만으로는 사용 내역은 파악할 수 있지만 요청 내용 자체는 알 수 없습니다. 요청 로깅 기능을 활성화하면 1개의 작업 공간에 한해 이러한 제한이 해제됩니다. 작업 공간 관리자가 이 기능을 켜면 Tokios는 각 API 호출의 요청 본문도 보관하게 되어 나중에 열람할 수 있게 됩니다. 이 기능을 활용해 코딩 에이전트가 실제로 전송한 내용을 디버깅하거나, 클라이언트가 첨부한 시스템 프롬프트 및 도구 정의를 검토하거나, 동료가 전달한 부정확한 답변에 대한 증거를 확인할 수 있습니다. 기본적으로는 꺼져 있으므로 직접 활성화해야만 작동합니다.
코딩 에이전트는 매번 대화 전체를 재전송하며, 도구 결과에는 파일 내용과 명령 실행 결과도 포함됩니다. 요청 로깅이 켜져 있을 경우 저장되는 프롬프트에는 사용자의 소스 코드와 에이전트가 읽어들인 모든 정보가 포함될 수 있습니다. 따라서 이 정보를 민감한 데이터로 간주하고, 작업 공간 API 키를 사용하는 모든 인원에게 이 점을 알려주어야 합니다.

​
저장되는 내용

모델에 도달하는 /v1/chat/completions, /v1/messages, 또는 /v1/responses으로의 각 요청에 대해 Tokios는 다음 내용을 저장합니다.
  • The request body as your client sent it, in the client’s own dialect (OpenAI Chat Completions, Anthropic Messages, or OpenAI Responses), before Tokios translates it for your backend.
  • 사용된 모델의 공식 명칭, 요청을 보낸 측의 API 키, 엔드포인트 정보, 최종 HTTP 상태 코드, 그리고 요청 로그에도 기재되는 상관관계 ID(cid)도 함께 저장됩니다.
본문을 저장하기 전에 Tokios는 해당 내용을 정리합니다. Tokios는 응답 본문을 절대 저장하지 않습니다. 또한 잘못된 API 키나 속도 제한, 알 수 없는 모델로 인해 게이트웨이에서 차단된 요청이나 대시보드의 플레이그라운드 및 상태 확인용 요청 역시 저장하지 않습니다.

​
기능을 활성화하세요

1

설정 창을 열어주세요

대시보드에서 Settings을 엽니다. 요청 로그 기능은 워크스페이스 관리자만 변경할 수 있으며, 일반 멤버들은 해당 기능이 켜져 있는지만 확인할 수 있습니다.
2

요청 로그 기능을 켜주세요

Toggle Request logging and confirm. Storage starts with the very next request — no restart of your connector or clients.
3

저장된 프롬프트를 읽는 방법

Open the Requests tab. A banner confirms request logging is on. Click any request and scroll to Prompt to read the stored body, copy it, and see whether it was truncated or had attachments stripped or secrets redacted.
Settings에는 요청 로깅 기능을 활성화한 사용자와 시점이 표시됩니다. 지원 과정에서 Tokios 측에서 이 기능을 켠 경우 해당 행에는 운영자가 활성화했다고 기재됩니다.

​
누가 저장된 프롬프트를 읽을 수 있나요

  • 워크스페이스 관리자는 해당 워크스페이스 내에 저장된 모든 프롬프트를 읽을 수 있습니다.
  • 일반 멤버는 자신이 소유한 API 키를 사용해 전송된 프롬프트만 읽을 수 있습니다.
  • 키를 공유받은 사용자는 자신의 사용량 페이지에서 요청 로깅이 활성화되었음을 알리는 안내문을 보게 됩니다. 해당 키로 전송된 프롬프트를 읽으려면 사용자가 별도로 허용해주어야 하며, 자세한 내용은 키 소유자가 자신의 프롬프트를 읽도록 설정하기를 참고하세요.
  • Tokios는 제품 내에서 저장된 프롬프트를 읽어낼 수 없습니다. 해당 프롬프트들은 저장 시 암호화되며, Tokios의 도구들로는 단지 로깅 기능이 활성화되어 있는지와 저장된 데이터의 양만 확인할 수 있을 뿐입니다.

​
키 소유자가 자신의 프롬프트를 읽도록 설정하기

The usage page at tokios.com/usage authenticates with the API key itself, so a key that can read prompts turns a leaked key into a leak of 7 days of prompts, not just usage counts. Prompt reads are therefore off for every key until you allow them, 1 key at a time.
  • When sharing a key: in the Share a key by email dialog, tick Let them read their stored prompts there too under the usage-visibility option.
  • For an existing key: on the Keys tab, edit the key, tick Let whoever holds this key read its stored prompts there too, and save.
그러면 키 보유자는 자신의 사용량 페이지에서 요청 내역을 확인할 수 있으며, Prompt 항목에서 해당 키로 전송된 프롬프트만 열람할 수 있습니다. 다른 키로 전송된 내용은 보이지 않습니다. 해당 옵션을 해제하면 즉시 접근 권한이 철회되며, 읽기 작업을 하려면 Let them check this key’s usage 기능이 활성화된 상태여야 합니다.

​
보존 및 삭제 규칙

  • 저장된 각 프롬프트는 요청 후 7일이 지나면 자동으로 삭제됩니다.
  • 하나의 워크스페이스에는 약 1 GB 분량의 프롬프트만 저장할 수 있습니다. 한도를 초과하면 가장 오래된 항목부터 삭제됩니다.
  • 요청 로그 기록 기능을 끄면 새로운 요청이 더 이상 저장되지 않습니다. 이미 저장된 프롬프트는 유효 기간이 끝날 때까지 그대로 남아있습니다.
  • To remove everything now, click Delete all stored prompts in Settings. This cannot be undone.

​
더 이상 필요하지 않을 때

지연 시간 및 점수 정보까지 포함된 상세 추적 기록이 필요하거나 7일보다 오래 프롬프트를 보존해야 한다면 관측 도구를 활용하시기 바랍니다. 자세한 내용은 Langfuse를 이용한 로컬 모델 호출 추적을 참고하세요. 요청 로그 기능은 전송된 내용을 확인하기 위한 간편한 대안입니다.

API 키 관리

범위가 지정된 API 키를 생성 및 공유하고, 공유된 키 보유자가 확인할 수 있는 정보를 지정할 수 있습니다.

자주 묻는 질문: 데이터 개인정보 보호

Tokios가 기본적으로 기록하는 내용과 요청 로깅이 활성화되었을 때 달라지는 부분은 무엇인가요.