使用 Claude Code 搭配本地模型

Claude Code 读取两个环境变量来决定请求的发送目标。将 ANTHROPIC_BASE_URL 指向 Tokios 并设置您的 Tokios API 密钥，Claude Code 即可使用 Ollama、LM Studio、llama.cpp 或 vLLM 上的本地模型运行 —— 不限于运行模型的那台机器。每个请求都会经由您的私有隧道传输到您自己的硬件。

前置条件

已运行并完成与本地模型配对的 Tokios 连接器 —— 参见 Connector install
已注册的模型部署名称 —— 参见 Register a model
一个 Tokios API 密钥 —— 参见 API Keys
已安装 Claude Code

设置环境变量

Windows CMD
macOS & Linux

claude-code-windows.cmd

set ANTHROPIC_BASE_URL=https://api.tokios.com
set ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

claude-code-unix.sh

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

务必通过 --model 指定您已注册的模型名称。Claude Code 的模型选择器仅列出 claude* 格式的 ID，因此不会显示您的 Tokios 模型 —— 显式指定名称即可将请求路由到您的部署。

持久化配置

为避免每次打开新终端会话时都要重新导出变量，可将它们添加到 Claude Code 自身的设置文件、Shell 配置文件或 .env 文件中。 ~/.claude/settings.json 这是最通用的方案，因为配置随 Claude Code 的配置迁移，而非绑定于特定 Shell。在项目目录中使用 .claude/settings.json 可将其限定于该项目：

~/.claude/settings.json

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://api.tokios.com",
    "ANTHROPIC_API_KEY": "sk-tok-YOUR_KEY"
  }
}

Claude Code 在启动时读取此文件，因此已打开的会话不会感知到编辑，需要重启才能生效。如果您的密钥在此处被拒绝，可将 ANTHROPIC_API_KEY 替换为 ANTHROPIC_AUTH_TOKEN，后者设置原始的 Authorization: Bearer 值 —— 这是发放自身密钥的网关所期望的格式。

~/.bashrc 或 ~/.zshrc 打开您的 Shell 配置文件并追加：

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY

然后重新加载：

source ~/.bashrc   # or source ~/.zshrc

.env 文件 如果您的工作流支持 .env 文件（例如通过 direnv 或 Shell 插件），可在项目根目录下创建一个 .env 文件：

.env

ANTHROPIC_BASE_URL=https://api.tokios.com
ANTHROPIC_API_KEY=sk-tok-YOUR_KEY

在启动 Claude Code 前加载它：

export $(cat .env | xargs) && claude --model gemma-tunnel

验证连接

运行一次简单的单次提示，确认 Claude Code 正在通过 Tokios 访问您的本地模型：

claude --model gemma-tunnel -p "Say hello"

预期输出：

Hello! How can I help you today?

如果您看到了响应，说明您的请求已成功经由 Tokios 网关流向本地模型。

Claude Code 以 Anthropic 消息格式发送请求。Tokios 将其转换为本地后端所需的格式，并将响应流式传回。

硬件与适配

服务与连接运行时

连接客户端或应用

对比

使用 Claude Code 搭配本地模型

前置条件

设置环境变量

持久化配置

验证连接

​前置条件

​设置环境变量

​持久化配置

​验证连接

前置条件

设置环境变量

持久化配置

验证连接