https://api.tokios.com/v1 并使用您的 sk-tok-… 密钥,LobeChat 就会与您自己硬件上的模型进行对话,而不是默认的托管 API。
先决条件
连接器已配对
在您希望 LobeChat 访问的模型旁边安装并配对
tokios-connector。模型已注册
为该模型注册一个部署(公共名称)。
API 密钥已创建
创建一个
sk-tok-… 密钥,可选择将其范围限定为该部署。支持的后端
确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。
选项 A — 在应用中配置
1
打开 OpenAI 提供商设置
在 LobeChat 中,进入 Settings → Language Model → OpenAI。启用该提供商。
2
设置 API 密钥和代理地址
输入您的密钥并将代理地址指向 Tokios:其中,API Proxy Address 是 LobeChat 的基础 URL 覆盖设置——请包含
/v1。3
添加您的部署作为模型
使用您注册的 公共部署名称 添加模型(可在 Models 选项卡中查看)——例如,
gemma-tunnel。这是 LobeChat 在 model 字段中发送的值,而不是您后端的本地模型 ID。选项 B — 通过环境变量配置
如果您自托管 LobeChat(例如使用 Docker),请设置这些环境变量,而不是使用应用内字段:.env
OPENAI_PROXY_URL 覆盖基础 URL(包含 /v1),而 OPENAI_MODEL_LIST=+gemma-tunnel 将您的部署添加到模型选择器中。确切的变量名称可能会在 LobeChat 版本之间发生变化——请对照您版本的 自托管模型提供商文档 进行确认。
托管 UI,家中模型
在任何方便的地方运行 LobeChat——浏览器、VPS 或容器——它仍然可以访问您家中机器上的模型。该模型旁边的连接器向 Tokios 发起出站连接;LobeChat 调用https://api.tokios.com/v1 并使用您的密钥。您无需将后端绑定到 0.0.0.0、打开入站端口或设置 VPN。
故障排除
401 错误
401 错误
LobeChat 发送的 API 密钥缺失、格式错误或已被撤销。确认密钥(在应用内或
OPENAI_API_KEY 中)是完整的 sk-tok-… 值,没有额外的空白字符,并在 Keys 选项卡上检查其状态。404 错误
404 错误
模型值与已注册的部署不匹配,或者代理地址缺少
/v1。确认模型名称与 Models 选项卡上的公共名称匹配,并且地址是 https://api.tokios.com/v1。503 错误
503 错误
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online,并且运行它的机器需要仍然处于运行状态且可访问。
后续步骤
兼容的客户端
查看其他兼容 OpenAI 和 Anthropic 的客户端的基础 URL 和密钥设置。
API 密钥
为使用同一 LobeChat 实例的团队成员创建单独的限定范围密钥。