Exécutez Qwen3-VL en local et utilisez-le depuis n’importe quel endroit.

Qwen3-VL constitue la famille dédiée de modèles visuel-langagiers de Qwen ; il interprète du texte, des images et des vidéos, prend en charge un contexte étendu même sur des configurations matérielles modestes, et se décline en versions à densité classique ou à mélange d’experts (MoE), avec des éditions Instruct et Thinking améliorées en raisonnement. Il remplace l’ancien Qwen2.5-VL ; si vous cherchez un modèle visuel à déployer aujourd’hui, c’est le choix idéal, car il bénéficie de balises Ollama validées. Le modèle plus récent Qwen3.8-27B accepte également les images et vidéos, mais ne fonctionne pour l’instant qu’avec llama.cpp, LM Studio ou un environnement serveur. Choisissez la version adaptée à vos ressources matérielles, puis reliez le connecteur Tokios afin de l’utiliser depuis n’importe quel poste, collaborateur ou agent hébergé via https://api.tokios.com — sans ouvrir de ports entrants ni recourir à un VPN.

Exécutez-le en local avec Ollama

Qwen3-VL figure dans la bibliothèque d’Ollama sous l’identifiant qwen3-vl. Téléchargez et lancez la balise par défaut (le modèle Instruct dense 8B) :

ollama run qwen3-vl

Pour d’autres variantes, précisez une balise — par exemple ollama run qwen3-vl:30b-a3b pour la version MoE ou ollama run qwen3-vl:8b-thinking pour l’édition Thinking. Consultez la page de la bibliothèque Ollama pour obtenir la liste complète des balises ; cette page décrit surtout la connexion, pas tous les détails d’exécution.

La fenêtre de contexte par défaut d’Ollama est limitée (2048 tokens), bien en dessous de la capacité native de Qwen3-VL qui atteint 256K tokens. Augmentez cette valeur à num_ctx dans votre fichier Modelfile ou dans la requête client afin d’exploiter pleinement le potentiel du modèle.

Variantes et balises

Toutes les valeurs ci-dessous proviennent des fiches techniques sur Hugging Face et de la bibliothèque Ollama. Les balises et tailles de téléchargement évoluent avec l’arrivée de nouvelles quantisations — vérifiez-les sur ollama.com/library/qwen3-vl/tags avant de retenir une version définitive.

Propriété	`8B` (densité classique)	`30B-A3B` (MoE)
Étiquette Ollama	`qwen3-vl:8b` (alias `:latest`)	`qwen3-vl:30b-a3b`
Taille du téléchargement (quantification par défaut)	~6.1 Go	~20 Go
Taille du téléchargement (`bf16`)	~18 Go	~62 Go
Paramètres	8B dense	30B au total / 3B actifs (128 experts, 8 acheminés)
Fenêtre de contexte	262,144 natif	262,144 natif
Modalité	Texte + image + vidéo	Texte + image + vidéo
Éditions	Instruct et Thinking	Instruct et Thinking
Licence	Apache-2.0	Apache-2.0
Hugging Face	`Qwen/Qwen3-VL-8B-Instruct`	`Qwen/Qwen3-VL-30B-A3B-Instruct`

Sources : ollama.com/library/qwen3-vl/tags, configuration de Qwen/Qwen3-VL-8B-Instruct et configuration de Qwen/Qwen3-VL-30B-A3B-Instruct. La bibliothèque Ollama propose également des tailles 2B, 4B, 32B et 235B-A22B ; ce tableau se concentre sur les tailles compatibles avec un déploiement local.

Le modèle 30B-A3B fonctionne en mode mélange d’experts : seuls 3B paramètres sont actifs par jeton, ce qui accélère le décodage par rapport à un modèle dense de taille équivalente. Toutefois, l’ensemble des paramètres doit toujours tenir en mémoire. Ne calculez pas la capacité de votre GPU uniquement d’après le nombre de paramètres actifs. Consultez le fonctionnement de l’inférence pour en comprendre les raisons.

Quantification et formats

Les étiquettes d’Ollama incluent une quantification par défaut ainsi que -q8, et des étiquettes -bf16 distinctes pour chaque taille, disponibles en éditions -instruct et -thinking. Le format utilisable dépend de votre matériel ; consultez les formats de quantification et leurs exigences matérielles pour en connaître la matrice complète, ainsi que ce qu’est la quantification afin de décoder des noms tels que Q4_K_M.

Adéquation matérielle

Une utilisation confortable à environ Q4 pour une longueur de contexte modérée. Chaque valeur indiquée est une estimation ; la taille réelle correspond à la taille GGUF plus la mémoire nécessaire au cache KV pour votre contexte. Consultez quelle taille de modèle convient à votre GPU ? pour les calculs de dimensionnement.

Cible	`8B` (environ 6 Go)	`30B-A3B` MoE (environ 20 Go)
RTX 3090 / 4090 (24 Go)	Utilisation confortable avec un contexte long	Convient parfaitement
RTX 5090 (32 Go, Blackwell)	Convient parfaitement, contexte étendu	Convient parfaitement
RTX 6000 Ada / A6000 (48 Go)	Convient parfaitement, contexte étendu	Convient parfaitement, contexte étendu
RTX 5080 / 4080 (16 Go)	Convient parfaitement	Limité — il convient de réduire le contexte
Silicon d’Apple (36 Go et plus de mémoire unifiée)	Convient parfaitement	Agréable à utiliser
AMD Strix Halo (ROCm/Vulkan, ≤96 Go)	Agréable à utiliser	Agréable à utiliser

Mise en œuvre — pour débutants comme pour experts

Ollama (le plus simple)
LM Studio (interface graphique)
vLLM (pour utilisateurs avancés)
SGLang (version avancée)

ollama run qwen3-vl

Laissez Ollama en écoute sur le port http://127.0.0.1:11434 par défaut. Augmentez la valeur de num_ctx pour disposer d’un contexte plus vaste, et envoyez des images dans vos requêtes de chat comme vous le feriez avec n’importe quel autre modèle de vision d’Ollama.

Recherchez Qwen3-VL dans le catalogue de modèles de LM Studio, téléchargez un fichier quantifié GGUF adapté à votre VRAM (commencez par Q4_K_M), puis lancez le serveur local de LM Studio. Celui-ci propose une API compatible OpenAI sur http://127.0.0.1:1234/v1, prenant en charge les entrées visuelles.

Qwen recommande vLLM (vllm>=0.11.0) pour un déploiement rapide de Qwen3-VL. L’exemple officiel concerne un système doté de plusieurs GPU ; adaptez les paramètres à vos propres ressources matérielles.

vllm serve Qwen/Qwen3-VL-8B-Instruct \
  --max-model-len 262144 \
  --media-io-kwargs '{"video": {"num_frames": -1}}'

Ajoutez --tensor-parallel-size <N> afin de répartir la charge entre plusieurs GPU. Le README de Qwen ne mentionne pas de paramètre --tool-call-parser ni --reasoning-parser pour Qwen3-VL ; consultez les documents de déploiement multimodal de vLLM ainsi que la fiche du modèle avant d’utiliser des appels d’API structurés ou le traitement des balises de réflexion en production.

python -m sglang.launch_server \
  --model-path Qwen/Qwen3-VL-8B-Instruct \
  --host 0.0.0.0 \
  --port 22002

Ajoutez --tp <N> afin d’activer le parallélisme tensoriel. Les options requises proviennent du README GitHub de Qwen3-VL.

Fonctionnalités

Vision : multimodale — accepte du texte, des images et des vidéos dans une même requête, avec un soutien natif pour l’OCR sur de longs documents, la compréhension d’interfaces graphiques et d’écrans par des agents, ainsi que le repérage spatial.
Long context: 262,144 tokens natively (confirmed for the 8B and 30B-A3B configs); Qwen’s model card describes it as expandable further with YaRN scaling on vLLM.
Raisonnement : deux éditions distinctes sont proposées selon la taille du modèle — Instruct (réponses directes) et Thinking (raisonnement renforcé, par exemple qwen3-vl:8b-thinking sur Ollama). Les exemples de déploiement officiels de Qwen pour vLLM ou SGLang ne mentionnent aucun paramètre spécifique pour activer le raisonnement dans Qwen3-VL.
Appel de fonctions : le modèle de chat sur Hugging Face prévoit un format JSON <tool_call>, automatiquement appliqué par Ollama. Les exemples de déploiement officiels de Qwen3-VL ne font pas état d’un paramètre --tool-call-parser ; il convient donc de tester cette fonctionnalité sur votre environnement avant de le mettre en production.

Connectez-le à Tokios

Une fois Qwen3-VL lancé localement, associez le connecteur Tokios afin de l’utiliser via https://api.tokios.com depuis Claude Code, Cline ou tout autre client compatible, plutôt que de se limiter à localhost:11434.

Procédez à l’association du connecteur Tokios

Rendez-vous sur tokios.com/console, ouvrez l’onglet Setup puis cliquez sur Start pairing pour obtenir un code d’activation unique (TKS-XXXX-XXXX). Installez et exécutez ensuite le connecteur sur la machine hébergeant Ollama.

Windows

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

macOS

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

Linux

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

Ensuite, sélectionnez approve le périphérique dans l’onglet Setup ou Connectors.

Orientez le connecteur vers l’API /v1 d’Ollama.

Ollama propose une interface compatible OpenAI à l’adresse /v1. Dans un environnement à un seul modèle, l’assistant de configuration de la console renseigne automatiquement ce champ avec http://127.0.0.1:11434/v1. Pour plusieurs modèles, il faut le définir manuellement dans tokios-connector.json — consultez Configuration du connecteur.

Enregistrez un déploiement.

Dans l’onglet Models, enregistrez le modèle et choisissez un nom public pour le déploiement, tel que qwen3-vl-tunnel. Ce nom — et non l’ID de modèle amont d’Ollama — est celui que les clients transmettent dans le champ model.

Créez une clé API.

Dans l’onglet Keys, cliquez sur Create key. Copiez immédiatement la clé sk-tok-… car elle ne s’affiche qu’une seule fois.

Appelez-la depuis n’importe où.

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-vl-tunnel",
    "messages": [
      {
        "role": "user",
        "content": [
          {"type": "text", "text": "What is in this image?"},
          {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
        ]
      }
    ]
  }'

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-vl-tunnel

Le champ model doit toujours contenir le nom de déploiement que vous avez enregistré (qwen3-vl-tunnel ci-dessus), jamais l’ID de modèle local d’Ollama. Pour configurer les clients, consultez Utiliser Claude Code et Utiliser Cline.

Points à prendre en compte.

Qwen3-VL propose Instruct et Thinking en tant que téléchargements distincts, sans option de basculement ; sélectionnez dès le départ l’étiquette requise (qwen3-vl:8b ou qwen3-vl:8b-thinking).
Le README officiel et les fiches techniques de Qwen ne mentionnent pas explicitement les paramètres --tool-call-parser ou --reasoning-parser pour Qwen3-VL dans vLLM/SGLang, contrairement à d’autres versions de Qwen3. Il convient de tester le comportement relatif à l’appel d’outils et aux balises de réflexion dans votre environnement d’exécution avant de l’utiliser en production.
Le modèle MoE de type 30B-A3B nécessite que l’ensemble de ses paramètres soient présents en mémoire, même si seuls 3B sont actifs par jeton ; dimensionnez donc votre matériel en fonction de la taille totale du téléchargement et non du nombre de paramètres actifs.
Les variantes 32B et 235B-A22B exigent davantage de ressources matérielles que ce que la plupart des utilisateurs de Tokios disposent localement. Considérez-les comme des options avancées et vérifiez bien les fichiers requis, les paramètres contextuels et la compatibilité d’exécution avant de les intégrer à vos projets.

Démarrage rapide

Associez un connecteur et enregistrez votre premier modèle dans sa totalité.

Quelle taille de modèle convient à votre carte graphique ?

Déterminez d’abord la quantité de mémoire VRAM dont vous disposez avant de télécharger Qwen3-VL.

Quantification et matériel

Parmi les formats de Qwen3-VL — GGUF et bf16 — lequel est compatible avec votre matériel ?

Quel modèle local choisir selon la tâche à accomplir ?

Découvrez comment Qwen3-VL se positionne par rapport aux autres modèles visuels locaux selon les tâches.

Premiers pas

Modèles

Concepts

Référence

Exécutez Qwen3-VL en local et utilisez-le depuis n’importe quel endroit.

Exécutez-le en local avec Ollama

Variantes et balises

Quantification et formats

Adéquation matérielle

Mise en œuvre — pour débutants comme pour experts

Fonctionnalités

Connectez-le à Tokios

Appelez-la depuis n’importe où.

Points à prendre en compte.

Démarrage rapide

Quelle taille de modèle convient à votre carte graphique ?

Quantification et matériel

Quel modèle local choisir selon la tâche à accomplir ?

​Exécutez-le en local avec Ollama

​Variantes et balises

​Quantification et formats

​Adéquation matérielle

​Mise en œuvre — pour débutants comme pour experts

​Fonctionnalités

​Connectez-le à Tokios

​Appelez-la depuis n’importe où.

​Points à prendre en compte.

Démarrage rapide

Quelle taille de modèle convient à votre carte graphique ?

Quantification et matériel

Quel modèle local choisir selon la tâche à accomplir ?

Exécutez-le en local avec Ollama

Variantes et balises

Quantification et formats

Adéquation matérielle

Mise en œuvre — pour débutants comme pour experts

Fonctionnalités

Connectez-le à Tokios

Appelez-la depuis n’importe où.

Points à prendre en compte.

Quelle taille de modèle convient à votre carte graphique ?

Quel modèle local choisir selon la tâche à accomplir ?