https://api.tokios.com 且兼容 OpenAI 或 Anthropic 规范的稳定端点。
若您在 NVIDIA GB10 或 DGX Spark 系统、AMD Strix Halo 或 Ryzen AI Max 系统、配备大容量统一内存的 Apple 硅基芯片 Mac、GPU 工作站、迷你电脑或家庭实验室服务器上运行本地模型，则可参考此页面。
Tokios 的功能亮点
Tokios 并不会取代您本地的模型运行环境，它仅作为客户端与工作站上已运行的后端之间的桥梁。本页面所介绍的硬件类型
当机器具备充足的内存与算力来运行本地模型，但实际使用的工具却位于别处——比如笔记本电脑、代码编辑器、编程智能体、笔记本终端、服务器进程或同事的客户端时，Tokios 便能发挥重要作用。推荐的部署方式
1
启动本地后端服务
在工作站上运行模型服务器。Tokios 可兼容那些提供 OpenAI 风格聊天补全 API 的后端，例如 Ollama、LM Studio、llama.cpp 以及 vLLM。
2
在工作站上安装连接器
在同一台机器上运行
tokios-connector，或者运行在能够访问该后端的邻近机器上即可。连接器会自动连接至 Tokios，因此无需开放入站端口。3
创建部署实例
将后端提供的上游模型 ID 对应到某个公开部署名称，比如
strix-coder、gb10-chat 或 local-qwen。客户端会在 model 字段中填入此部署名称。4
将各类工具指向 Tokios
针对使用 OpenAI 协议格式的客户端请选用
https://api.tokios.com/v1，而使用 Anthropic 协议格式的客户端则选用 https://api.tokios.com。面向硬件的工作流程
部署命名规范
命名时应体现部署的实际用途而非仅硬件特征，这样有助于客户端配置的稳定性。需要基准测试的内容
本地人工智能工作站的购买者通常会依据模型规模或每秒生成的令牌数量来比较硬件性能。对于 Tokios 而言，您应当测量自己实际计划运行的工作流程。
可借助 对 Tokios 部署进行基准测试 来在相同提示词与硬件条件下对比不同部署方案。
后续步骤
连接后端系统
将 Ollama、LM Studio、llama.cpp 或 vLLM 配置为本地的上游模型。
安装连接器
将连接器运行在本地工作站模型服务器旁即可。
使用编程辅助工具
连接 Claude Code、OpenAI Codex 及其他兼容的编程客户端。
对部署方案进行基准测试
通过同一个 Tokios 端点来对比本地模型与后端。