最終確認: 2026-10-14
https://api.tokios.comを通じてどのマシンやチームメイト、ホストされたエージェントからでも呼び出せる。インバウンドポートやVPNは一切不要だ。
Ollamaを使ってローカルで実行する
Qwen3-VLはOllamaライブラリ内でqwen3-vl という識別子で登録されている。デフォルトタグ（密集型のInstructモデルである 8B）を取得して実行する：
ollama run qwen3-vl:30b-a3b、推論強化版なら ollama run qwen3-vl:8b-thinking となる。全タグ一覧はOllamaライブラリページを参照されたい。このページでは接続方法のみ説明しており、すべてのランタイム詳細は記載していない。
Ollamaのデフォルトコンテキストウィンドウは小さく（2048トークン程度）であり、Qwen3-VL本来の能力である256Kには遠く及ばない。より多くのコンテキストを活用したい場合は、Modelfileまたはクライアントリクエスト内で
num_ctx の値を引き上げる必要がある。バリエーションとタグ
以下の値はすべてHugging FaceのモデルカードおよびOllamaライブラリから得た情報だ。新たな量子化版がリリースされるたびにタグやダウンロードサイズは変動するため、標準化する前にollama.com/library/qwen3-vl/tagsで確認してほしい。
情報源：ollama.com/library/qwen3-vl/tags、Qwen/Qwen3-VL-8B-Instructの設定、およびQwen/Qwen3-VL-30B-A3B-Instructの設定。Ollamaのライブラリではさらに
2B、4B、32B、235B-A22Bといったサイズも紹介されているが、本表ではローカル環境で利用しやすいことが確認済みのサイズに絞っている。
量子化とフォーマット
Ollamaのタグ体系ではデフォルトの量子化レベルに加えて-q8も用意されており、各サイズごとに別個の-bf16タグが存在する。それぞれのタグは-instruct版および-thinking版の両方で利用可能だ。実際に利用できるフォーマットはハードウェアによって異なる。詳細な対応表については量子化フォーマットと必要なハードウェアを、量子化レベルの名称の読み方については量子化とは何かを参照してほしい（Q4_K_Mのような名称の解釈方法が記載されている）。
ハードウェアへの適合性
適度なコンテキスト長であればQ4程度で問題なく動作する。表中の数値はすべて概算値であり、実際にはモデルのGGUFサイズに加えてコンテキスト分のKVキャッシュ分も必要となる。GPUに適したモデルサイズの算出方法はどのサイズのモデルがGPUに適合するかを参照されたい。
実行方法 — 初心者から上級者まで
- Ollama（最も簡単な方法）
- LM Studio（GUI版）
- vLLM（上級者向け）
- SGLang（上級者向け）
http://127.0.0.1:11434 ポートで待機させておこう。より多くのコンテキストを利用したい場合は num_ctx の値を引き上げよう。また、他のOllamaビジョンモデルと同様に、チャットリクエストに画像を添付できる。主な機能
- ビジョン機能： マルチモーダル対応 — 同一リクエスト内でテキスト・画像・動画を受け付け、長文文書のOCR処理やGUI・エージェントによる画面理解、空間位置の特定も可能だ。
- 長文脈対応： 262,144トークンをネイティブに処理可能であり、
8Bおよび30B-A3Bの設定においてもその点が確認されている。Qwenのモデルカードによれば、vLLM上でYaRNスケーリングを用いることでさらに拡張も可能だ。 - 推論機能： サイズごとに二つのエディションが用意されており、Instruct（直接的な回答を生成）とThinking（推論能力を強化した版、例えばOllama上の
qwen3-vl:8b-thinkingなど）がある。Qwenが公開しているvLLM/SGLang向けのデプロイ例では、Qwen3-VL用の専用推論パーサーフラグは記載されていない。 - ツール呼び出し： Hugging Face側のチャットテンプレートでは
<tool_call>というJSON形式が定義されており、Ollamaがこれを自動的に適用する。Qwen3-VL用の公式vLLM/SGLangデプロイ例では--tool-call-parserフラグが記載されていないので、実際に製品をリリースする前にご自身の実行環境で関数呼び出し機能を試してみてください。
Tokiosコネクターとの連携
Qwen3-VLがローカル環境で稼働したら、Tokiosコネクターをペアリングしておこう。そうすればClaude CodeやCline、その他互換性のあるクライアントからもhttps://api.tokios.com 経由でこのモデルにアクセスできるようになる。これにより、単に localhost:11434 からのみ接続できる状態から解放される。
1
Tokiosコネクターのペアリング手順
まずtokios.com/consoleにサインインし、Setupタブを開いてStart pairingをクリックすると、ワンタイムのペアリングコード（次にデバイスをapproveする。SetupまたはConnectorsタブから実行できる。
TKS-XXXX-XXXX）が取得できる。Ollamaを実行しているマシンにコネクタをインストールして実行する：Windows
macOS
Linux
2
コネクターをOllamaの/v1 APIに向ける
Ollamaは
/v1 にてOpenAI互換のインターフェースを提供している。単一モデル環境ではコンソールのセットアップウィザードが自動的に http://127.0.0.1:11434/v1 を設定する。複数モデルを利用する場合は tokios-connector.json で明示的に設定する。詳細はコネクター設定を参照。3
デプロイを登録する
次にModels タブでモデルを登録し、
qwen3-vl-tunnel のような公開デプロイ名を選択する。この名前 — OllamaのローカルモデルIDではなく — がクライアントによって model フィールドに送信される。4
APIキーを作成する
最後にKeys タブでCreate keyをクリックする。
sk-tok-… キーを今すぐコピーする — これは一度しか表示されない。どこからでも呼び出せる
注意点
- Qwen3-VLではInstruct版とThinking版がそれぞれ個別のダウンロードファイルとして提供されており、切り替え機能付きの単一モデルではない。必要なタグ（
qwen3-vl:8bまたはqwen3-vl:8b-thinking）を事前に選択しておく必要がある。 - Qwenの公式READMEおよびモデルカードでは、他のQwen3リリースとは異なり、vLLM/SGLang用のQwen3-VL向けに明示的な
--tool-call-parserや--reasoning-parserフラグが公開されていない。本番環境で依存する前に、ご自身の実行環境でツール呼び出しとThinkingタグの動作をテストされたい。 - いわゆる
30B-A3BMoEモデルは、各トークンごとに3Bのみが活性化される場合でも、全総パラメータをメモリに保持する必要がある。ハードウェアのサイズは活性数ではなくフルダウンロードに基づいて選定されたい。 - 大型の
32Bおよび235B-A22Bバリアントは、ほとんどのローカルTokiosユーザーが持つハードウェアよりも多くの容量を必要とする。上級者向けのプルとして扱い、計画前に正確なファイル、コンテキスト設定、ランタイムサポートを確認されたい。
FAQ
Qwen3-VLにはどの程度のVRAMが必要ですか？
Qwen3-VLにはどの程度のVRAMが必要ですか？
密集型の
8B モデルはデフォルトの量子化で約6.1 GB、18 GB（bf16形式）必要だ。30B-A3B MoEモデルはデフォルトの量子化で約20 GB、62 GB（bf16形式）必要だ。これに加えてコンテキスト長に応じたKVキャッシュが必要となる。どちらも262,144トークンをネイティブにサポートし、長いコンテキストではメモリ使用量が大幅に増加する。Qwen3-VLは24 GB GPUで動作しますか？
Qwen3-VLは24 GB GPUで動作しますか？
はい。
8B（約6 GB）と 30B-A3B MoE（約20 GB）の両方がデフォルトの量子化で24 GBカード（RTX 3090 / 4090）に収まる。8B は長いコンテキスト用に十分な余裕を残す。30B-A3B は快適だが、非常に大きなコンテキスト長ではやや厳しい。16 GBカード（RTX 5080 / 4080）でも 8B は快適に動作する。Qwen3-VLはオープンソースですか？
Qwen3-VLはオープンソースですか？
はい。
8B と 30B-A3B の両方がApache 2.0の下でリリースされており、利用制限やユーザー数閾値のない寛容なライセンスだ。ただし、オープンウェイトとオープンソースは同じではない — 訓練データとパイプラインは公開されていない。Thinking版とInstruct版の違いは何ですか？
Thinking版とInstruct版の違いは何ですか？
これらは切り替え機能ではなく個別のダウンロードとして提供される。Instructエディションは直接的な回答を生成する。Thinkingエディション（例：
qwen3-vl:8b-thinking）は推論能力が強化されており、最終回答の前に段階的な推論を出力する。必要なタグを事前に選択する — Ollamaの -thinking サフィックスで推論版が選択される。Qwen3-VLは動画入力に対応していますか？
Qwen3-VLは動画入力に対応していますか？
はい。Qwen3-VLファミリー全体が同一リクエスト内でテキスト・画像・動画を受け付け、長文文書のOCR処理やGUI・エージェントによる画面理解、空間位置の特定にネイティブ対応している。これは旧版Qwen2.5-VLとの大きな違いだ。
クイックスタート
コネクターをペアリングし、最初のモデルを一通り登録してみよう。
ご使用のGPUに適したモデルサイズはどれか？
Qwen3-VLをダウンロードする前に、利用可能なVRAM容量に合ったサイズを選ぼう。
量子化とハードウェア
Qwen3-VLが提供するフォーマットの中で、
GGUF や bf16 といった形式のどれがご使用のハードウェアで動作するかを確認できる。各タスクに適したローカルモデルはどれか？
タスク別に見た際のQwen3-VLと他のローカル視覚モデルとの比較結果を確認できる。