model 字段中的部署名称。
先决条件
- 一个正在运行的连接器。请参阅连接器安装。
- 一个或多个已注册的部署。请参阅注册模型。
- 一个 Tokios API 密钥。请参阅 API 密钥。
- 一个在引入 Tokios 之前即可正常工作的本地后端。请参阅后端。
测试基本请求
首先进行一个小型非流式请求。将密钥和模型替换为您自己的值。测试流式传输
然后测试流式传输行为。这更接近许多编码智能体和聊天工具在实际使用中的表现。比较两个部署
使用相同的请求体,仅更改model。
使用您的实际客户端进行测试
在curl 正常工作后,通过您计划使用的客户端进行测试。