http://127.0.0.1:1234/v1 端口,其他设备无法访问。虽然 LM Studio 提供了 serve on local network 选项,但该功能仅适用于局域网:它允许同一网络内的设备访问,且默认未启用身份验证。建议将 LM Studio 保留在本地运行,再搭配 Tokios 连接器使用:该连接器会主动连接至 https://api.tokios.com,这样各类工具、团队成员或智能代理均可通过一个经过身份验证的端点从任意位置发起请求。
LM Studio 的网络服务范围仅限于局域网
LM Studio 的 serve on local network 开关说明明确指出其仅适用于局域网环境。启用后服务器将绑定至本机网络接口(而不仅限于127.0.0.1 端口),使得同一 Wi-Fi 或局域网内的其他设备均可访问。由于默认未开启身份验证,LM Studio 会在启用时弹出警告提示。该功能确实便于同一网络内设备间的访问,却无法满足跨网络协作需求——例如让其他网络下的同事或托管型智能代理通过真实身份验证来访问服务。
这并非对 LM Studio 局域网功能的批评——它在指定场景下确实能发挥作用。Tokios 则致力于解决另一类需求:提供无需暴露本地网络即可从任意位置访问的认证端点。LM Studio 与 Ollama、llama.cpp、vLLM 一样,均为 Tokios 官方支持的后端选项。
仅支持出站连接的实现方式
1
加载模型并启动 LM Studio 服务器
打开 LM Studio,进入 Developer(或 Local Server)标签页加载模型后点击启动按钮。请保持 serve on local network 处于关闭状态——Tokios 无需此设置。此时 LM Studio 仍会继续监听默认的
http://127.0.0.1:1234/v1 端口。2
配置 Tokios 连接器
请登录至 tokios.com/console,打开 Setup 选项卡并点击 Start pairing。此时 Tokios 会生成一个一次性的 申领令牌,其格式类似 若您已安装 回到控制台 approve 该设备:在 Setup 或 Connectors 选项卡中操作。连接器的令牌在批准后会通过隧道下发——您永远不会在屏幕上看到它,也无需将其粘贴到任何文件中。
TKS-XXXX-XXXX,有效期约为 15 分钟。在运行 LM Studio 的设备上,执行适用于您操作系统的单行安装命令即可。Windows
macOS
Linux
tokios-connector,则可直接输入该令牌来完成配置。3
请将连接器指向 LM Studio 提供的 /v1 API 接口。
LM Studio 内置的服务器本身就兼容 Tokios 所需的 OpenAI 接口规范。对于仅使用单一模型的情形,控制台的设置向导会自动将 关于多模型配置文件的完整格式说明,请参阅 连接器配置 页面。
http://127.0.0.1:1234/v1 设为上游模型 ID。若需通过 tokios-connector.json 配置文件同时运行多个模型,则需手动指定上游模型 ID 为 BaseUrl。4
请执行一次部署操作。
在 Models 选项卡中注册 LM Studio 中的模型并设定一个 公开名称,例如
lmstudio-tunnel。客户端在调用时实际发送的是此公开名称,而非 LM Studio 内部的原始模型 ID,该名称也会填入 model 字段中。5
请生成一个 API 密钥。
进入 Keys 选项卡后点击 Create key。您还可按需限定该密钥的适用范围,比如指定特定的模型名称模式(多个模式可用逗号分隔,使用
* 则表示适用于所有模型)。此时请务必记下生成的 sk-tok-… 令牌,因为系统仅显示一次该信息。随时随地均可使用
一旦获取了部署名称与 API 密钥,任何兼容 OpenAI 或 Anthropic 协议的客户端均可访问您在 LM Studio 中运行的模型,无论它们位于其他计算机、同事的笔记本电脑还是托管式代理端。常见问题
支持流式传输吗?
支持流式传输吗?
支持。设置好
"stream": true 后,Tokios 会根据您调用的 API 类型返回符合 OpenAI 或 Anthropic 规范的标准服务器推送事件。能否对外提供 LM Studio 中加载的多个模型?
能否对外提供 LM Studio 中加载的多个模型?
必须保持 LM Studio 程序处于开启状态吗?该连接器能否作为后台服务运行?
必须保持 LM Studio 程序处于开启状态吗?该连接器能否作为后台服务运行?
LM Studio 的服务器必须依赖程序运行才能响应请求。而
tokios-connector 进程本身可独立运行。若需长期运行连接器,例如用于管理多个模型或作为后台服务,可参考 连接器配置 了解相关配置选项。是否仍需启用 LM Studio 的局域网服务功能?
是否仍需启用 LM Studio 的局域网服务功能?
无需启用。该功能可保持关闭状态。连接器通过本地回环地址
127.0.0.1:1234 与 LM Studio 通信,因此 LM Studio 仅需绑定至本地主机即可。正是 Tokios 借助您的 sk-tok-… 令牌实现了其他设备对模型的访问。您的模型始终运行在本地设备上,而对应的端点则可随处调用。
LM Studio 仍会在本地主机上照常运行,无需开放任何入站端口,也无需启用网络服务功能。该连接器仅负责向外发起连接。除此之外,诸如身份验证、路由分配以及数据流处理等所有功能均通过单一端点实现,您可让任意设备、团队成员或代理程序使用该端点,只需为其提供相应的令牌即可。快速入门
配置连接器并完成首个模型端点的注册流程。
API 密钥
为团队成员及代理程序创建、设定权限并定期轮换
sk-tok-… 类型的令牌。