跳转到主要内容
LobeChat 是一个精美的开源聊天 UI,您可以在浏览器中运行它,作为桌面应用程序运行,或进行自托管。它通过 OpenAI 提供商访问兼容 OpenAI 的端点——将 API Proxy Address 设置为 https://api.tokios.com/v1 并使用您的 sk-tok-… 密钥,LobeChat 就会与您自己硬件上的模型进行对话,而不是默认的托管 API。

先决条件

连接器已配对

在您希望 LobeChat 访问的模型旁边安装并配对 tokios-connector。

模型已注册

为该模型注册一个部署(公共名称)。

API 密钥已创建

创建一个 sk-tok-… 密钥,可选择将其范围限定为该部署。

支持的后端

确认您的本地后端(Ollama、llama.cpp、vLLM、LM Studio)正在运行。

选项 A — 在应用中配置

1

打开 OpenAI 提供商设置

在 LobeChat 中,进入 Settings → Language Model → OpenAI。启用该提供商。
2

设置 API 密钥和代理地址

输入您的密钥并将代理地址指向 Tokios:
其中,API Proxy Address 是 LobeChat 的基础 URL 覆盖设置——请包含 /v1。
3

添加您的部署作为模型

使用您注册的 公共部署名称 添加模型(可在 Models 选项卡中查看)——例如,gemma-tunnel。这是 LobeChat 在 model 字段中发送的值,而不是您后端的本地模型 ID。

选项 B — 通过环境变量配置

如果您自托管 LobeChat(例如使用 Docker),请设置这些环境变量,而不是使用应用内字段:
.env
OPENAI_PROXY_URL 覆盖基础 URL(包含 /v1),而 OPENAI_MODEL_LIST=+gemma-tunnel 将您的部署添加到模型选择器中。确切的变量名称可能会在 LobeChat 版本之间发生变化——请对照您版本的 自托管模型提供商文档 进行确认。
切勿将真实的 sk-tok-… 密钥提交到版本控制或共享的 compose 文件中。请通过环境变量或应用内字段提供它。

托管 UI,家中模型

在任何方便的地方运行 LobeChat——浏览器、VPS 或容器——它仍然可以访问您家中机器上的模型。该模型旁边的连接器向 Tokios 发起出站连接;LobeChat 调用 https://api.tokios.com/v1 并使用您的密钥。您无需将后端绑定到 0.0.0.0、打开入站端口或设置 VPN。

故障排除

LobeChat 发送的 API 密钥缺失、格式错误或已被撤销。确认密钥(在应用内或 OPENAI_API_KEY 中)是完整的 sk-tok-… 值,没有额外的空白字符,并在 Keys 选项卡上检查其状态。
模型值与已注册的部署不匹配,或者代理地址缺少 /v1。确认模型名称与 Models 选项卡上的公共名称匹配,并且地址是 https://api.tokios.com/v1。
该部署的连接器离线或已达到并发上限。检查 Connectors 选项卡——连接器需要显示为 Online,并且运行它的机器需要仍然处于运行状态且可访问。

后续步骤

兼容的客户端

查看其他兼容 OpenAI 和 Anthropic 的客户端的基础 URL 和密钥设置。

API 密钥

为使用同一 LobeChat 实例的团队成员创建单独的限定范围密钥。