deepseek-ai/DeepSeek-V4-Flash-0731; use R1 distills only when your hardware cannot support the V4 weight floor.
タスクとモデルファミリーの対応関係
現在のところTokiosではゲートウェイ経由での埋め込み生成機能は提供されていません。APIの機能はチャットやメッセージ用エンドポイントのみとなっています。上記の埋め込み関連項目は、Tokiosのデプロイ機能を介さずにご自身のバックエンドで直接モデルをローカル実行する際に利用するためのものです。
エージェント用モデルを選定する際のポイント
コーディングエージェントやその他のツール利用型クライアントは、通常のチャットUIよりも厳格な基準を求めます。以下の三つの基準を参考にしてください。- ネイティブなツール呼び出し機能。エージェントの処理ループは、クライアント側で解析可能な構造化されたツール呼び出し情報をモデルが返すことを前提としています。この用途向けの現時点でのDeepSeek推奨モデルが
DeepSeek-V4-Flash-0731です。実際に利用する推論環境や推論強度、チャットエンコーディングの条件下で必ず検証を行ってください。 - コンテキストウィンドウが少なくとも 32~64K、できれば 128K以上であること。エージェントは各ステップごとにファイル内容や差分情報、ツールの出力結果を蓄積するため、短いコンテキストウィンドウはすぐに満杯になってしまいます。モデル本体のサイズに加え、目的のコンテキスト長に対応できるだけのVRAMをKVキャッシュ用に確保する必要があります。詳細は GPUまたは統合メモリに合わせてモデルを調整する方法 をご覧ください。
- 指示の遵守性、構造化された出力、そして柔軟なライセンス条件。Apache-2.0ライセンスに基づく
Qwen3やgpt-ossといったモデル群は、ライセンス面での制約が少なく導入しやすい特徴があります。
ご利用のハードウェアに合わせて調整する
適切なモデルファミリーを選ぶだけでは不十分です。実際に必要なコンテキスト長において、モデルが利用可能なVRAMや統合メモリ容量に収まる必要があります。パラメータ数や量子化レベルごとのサイズ目安については GPUまたは統合メモリに合わせてモデルを調整する方法 を参照してください。 どのバックエンドを利用するか、登録後のデプロイ名をどう設定するかといったワークフローや命名に関する判断基準については ローカルモデルとバックエンドの選定方法 をご覧ください。ひとつを選定した後
Tokiosはユーザーに代わってモデルを選択してくれるわけではなく、ご自身が実行しているモデルに対してどこからでも呼び出せる安定したデプロイエンドポイントを提供します。デプロイメントを登録する
選択したモデルを、公開名およびAPIキー付きのTokiosデプロイメントへと変換します。
候補を比較する
最終的に利用するデプロイメントを決定する前に、二つ以上のデプロイメントを並行してベンチマークしてみましょう。