在 Tokios 控制台中注册模型

注册模型会将一个公共部署名称映射到已配对的连接器及其所提供的模型。公共部署名称是你在每次 API 调用中作为 "model" 传递的字符串，例如 gemma-tunnel。请在连接器完成配对并获批准后执行此操作。请参阅安装连接器。

注册模型

确认连接器已连接

在控制台的 Connectors 选项卡中，确认连接器显示为已连接。如果没有，请确保连接器仍在模型所在的计算机上运行，并且你已在配对期间批准该设备。

选择模型和公共部署名称

打开 Models 选项卡（Setup 向导的第 3 步）。选择要通过连接器公开的模型，并为其指定客户端将使用的公共部署名称。使用简短、全小写且以连字符分隔的名称，例如 gemma-tunnel、llama3-local 或 mistral-home。

Save

保存模型。现在可以通过其公共部署名称在 api.tokios.com 访问该模型。

将公共部署名称作为 model 字段传递。网关会先将其解析到你的连接器，然后再转发请求：

{
  "model": "gemma-tunnel",
  "messages": [{ "role": "user", "content": "What is the capital of France?" }]
}

一个连接器可以公开多个模型。请为每个模型注册一个公共部署名称，或在连接器配置文件中定义多个上游。请参阅模型路由和连接器配置。