model 필드의 배포 이름만 변경합니다.
사전 요구 사항
- 실행 중인 커넥터. 커넥터 설치를 참조하세요.
- 하나 이상의 등록된 배포. 모델 등록을 참조하세요.
- Tokios API 키. API 키를 참조하세요.
- Tokios가 개입되기 전에 작동하는 로컬 백엔드. 백엔드를 참조하세요.
기본 요청 테스트
작은 비스트리밍 요청부터 시작합니다. 키와 모델을 사용자 값으로 교체합니다.스트리밍 테스트
그런 다음 스트리밍 동작을 테스트합니다. 이것은 실제로 많은 코딩 에이전트 및 채팅 도구가 작동하는 방식과 더 가깝습니다.두 배포 비교
동일한 요청 본문을 사용하고model만 변경합니다.
실제 클라이언트로 테스트
먼저curl이 작동한 후, 사용하려는 클라이언트를 통해 테스트합니다.