"model"로 전달하는 문자열입니다. 예를 들어, gemma-tunnel이 있습니다.
이 작업은 커넥터가 페어링되고 승인된 후에 수행합니다. 커넥터 설치를 참조하세요.
모델 등록하기
1
커넥터 연결 확인
콘솔의 Connectors 탭에서 커넥터가 연결된 상태로 표시되는지 확인합니다. 연결되지 않은 경우, 커넥터가 모델이 실행되는 기기에서 여전히 실행 중인지 확인하고 페어링 과정에서 기기를 승인했는지 확인합니다.
2
모델 및 공개 이름 선택
이제 Models 탭을 엽니다(설정 마법사의 단계 3). 커넥터를 통해 노출할 모델을 선택하고 클라이언트가 사용할 공개 이름을 부여합니다.짧고 소문자이며 하이픈으로 구분된 이름을 사용합니다. 예를 들어,
gemma-tunnel, llama3-local, 또는 mistral-home과 같습니다.3
저장
모델을 저장합니다. 이제 해당 모델은
api.tokios.com에서 공개 이름으로 접근할 수 있습니다.API 호출에서 공개 이름 사용하기
공개 이름을model 필드로 전달합니다. 게이트웨이는 전달하기 전에 이를 커넥터로 해결합니다.