我想…
连接本地运行时
公开你已在运行的模型——无需开放端口。
OllamaLM Studiollama.cppvLLM
→将 Tokios 与智能体或应用配合使用
将编程智能体或聊天应用指向你的本地模型。
Claude CodeCodexCursor
→选择模型
找到适合你硬件的模型,以及适合你任务系列的模型。
适配工具按任务
→3 步快速入门
01
运行模型
任何支持 Chat Completions 的后端,在你自己的硬件上运行。
02
连接 Tokios
安装连接器并在 5 分钟内注册你的模型。
03
使用你的端点
将任何兼容 OpenAI 或 Anthropic 的客户端指向你的端点。
已验证兼容性
查看哪些开箱即用 — 查看完整兼容矩阵 →客户端
Ollama
vLLM
LM Studio
Claude Code
已验证
已验证
已验证
OpenAI Codex
已验证
已验证
已验证
OpenAI SDK
已验证
已验证
已验证
Anthropic SDK
已验证
已验证
已验证