Passer au contenu principal
Dernière vérification : 2026-10-14
Llama 4 est la sortie Llama la plus récente de Meta (avril 2025) : des modèles mixture-of-experts nativement multimodaux (entrée texte + image) avec un contexte très long. Les deux versions à poids ouverts — Scout (109B au total / 17B actifs) et Maverick (400B au total / 17B actifs) — n’activent que 17B paramètres par token, mais tous les poids d’experts doivent rester résidents en mémoire. Ce sont donc des modèles à grande mémoire unifiée ou multi-GPU, pas des téléchargements pour un seul GPU grand public : le téléchargement de Scout en Q4-class est ~67 GB, celui de Maverick est ~245 GB. Exécutez celui qui convient à votre matériel, puis associez le connecteur Tokios pour y accéder via https://api.tokios.com depuis n’importe quel client compatible OpenAI ou Anthropic.
Le développement de modèles de Meta est passé à la ligne Muse — le fermé Muse Spark et l’ouvert Muse Glimmer 30B. Meta n’a pas officiellement arrêté Llama et les poids restent téléchargeables, mais aucun Llama 5 n’a été annoncé.
Vous voulez un Llama qui tient sur un seul GPU de 24 GB ? ollama run llama3.1:8b ou ollama run llama3.3:70b — la ligne 3.x reste le choix pratique pour un seul GPU. Llama 4 est ce vers quoi vous montez sur 96 GB+ de mémoire unifiée ou un serveur multi-GPU.

​
Variantes et tags

Chaque valeur ci-dessous provient de la bibliothèque Ollama et des fiches modèles de Meta sur Hugging Face. Les tags et tailles changent avec les nouvelles quantifications — confirmez sur ollama.com/library/llama4 avant de standardiser. Sources : ollama.com/library/llama4/tags, annonce de Llama 4 par Meta, meta-llama/Llama-4-Scout-17B-16E-Instruct.
Un troisième modèle, Llama 4 Behemoth (~2T paramètres), a été présenté comme le modèle professeur de la famille mais n’a pas été publié publiquement. Seuls Scout et Maverick sont téléchargeables.

​
Pourquoi « 17B actifs » nécessite quand même 67 GB

Le routage MoE active 17B paramètres par token, mais le routeur choisit un sous-ensemble différent d’experts pour chaque token — donc tous les poids d’experts doivent rester chargés. Le calcul mémoire est guidé par les paramètres totaux, pas les actifs :
  • Scout : 109B × ~0.5 bytes à Q4-class ≈ 55 GB de poids, ~67 GB tel que livré avec les surcoûts
  • Maverick : 400B × ~0.5 bytes ≈ 200 GB de poids, ~245 GB tel que livré
Ce que le nombre de paramètres actifs vous apporte c’est la vitesse, pas l’adéquation : le calcul par token est celui d’un modèle de 17B, donc sur du matériel avec assez de mémoire, Llama 4 génère plus vite qu’un modèle dense de taille totale similaire. Consultez mémoire et déchargement pour comment les runtimes gèrent les modèles proches du plafond mémoire.

​
Adéquation matérielle

Confort à environ Q4 avec une longueur de contexte modeste. Considérez chaque entrée comme une estimation — la vérité terrain est la taille réelle du téléchargement plus le cache KV pour votre contexte, et les chiffres de contexte long (10M pour Scout) multiplient la mémoire de cache KV bien au-delà de ce que la plupart des machines contiennent. Consultez quel modèle tient sur votre GPU ? pour les calculs de dimensionnement.

Servez-le depuis un seul point de terminaison une fois lancé

Enregistrez votre déploiement Llama 4 dans Tokios et appelez-le depuis n’importe quelle machine avec une clé sk-tok-… — pas de ports entrants sur la machine qui détient les GPU.

​
Exécutez-le — du débutant à l’avancé

Laissez Ollama écouter sur l’adresse par défaut http://127.0.0.1:11434. Augmentez num_ctx au-delà de la petite valeur par défaut d’Ollama pour utiliser le contexte long — mais dimensionnez-le par rapport à votre mémoire libre, pas au titre 10M.

​
Capacités

  • Entrée multimodale : Scout et Maverick acceptent nativement du texte et des images ; la sortie est texte uniquement.
  • Contexte : Scout annonce une fenêtre de 10M tokens et Maverick 1M. Servir près de ces longueurs est un problème de mémoire de cache KV en soi — consultez Cache KV et contexte avant de planifier autour.
  • Langues : Les fiches modèles de Meta listent 12 langues prises en charge, dont l’anglais, l’allemand, le français, l’espagnol, le portugais, l’hindi et le vietnamien.
  • Raisonnement : Modèles généraux entraînés par instructions — pas de mode de réflexion séparé. Pour un raisonnement étape par étape, consultez DeepSeek ou gpt-oss.

​
Connectez-le avec Tokios

1

Gardez votre runtime local actif

Démarrez Llama 4 dans Ollama, vLLM ou un autre runtime compatible OpenAI et laissez-le lié à la boucle locale.
2

Associez le connecteur Tokios

Connectez-vous sur tokios.com/console, ouvrez l’onglet Setup et cliquez sur Start pairing pour obtenir un code d’appairage unique (TKS-XXXX-XXXX). Lancez l’installateur sur la machine qui exécute le modèle :
Windows
macOS
Linux
Puis approve l’appareil sur l’onglet Setup ou Connectors.
3

Enregistrez un déploiement

Dans l’onglet Models, enregistrez l’id de modèle amont (par exemple llama4:scout) sous un nom de déploiement public comme llama4-tunnel. Les clients envoient le nom de déploiement dans le champ model, jamais l’id local.
4

Créez une clé API et appelez-le

Dans l’onglet Keys, cliquez sur Create key, puis :

​
Mises en garde

  • Pas de chemin pour GPU grand public. Contrairement à la ligne 3.x, aucun modèle Llama 4 ne tient sur une carte de 24–48 GB en VRAM. Les runtimes basés sur llama.cpp peuvent décharger les experts en RAM système, mais le débit chute fortement une fois les poids hors du GPU — prévoyez de la mémoire unifiée ou un serveur avant de standardiser sur Llama 4.
  • Licence : Llama 4 utilise la Llama 4 Community License de Meta — pas Apache ni MIT. Elle comporte une politique d’utilisation acceptable et une exigence de licence Meta séparée pour les produits au-dessus de 700 millions d’utilisateurs actifs mensuels. Vérifiez-la avant un usage commercial.
  • Le contexte long est un budget mémoire, pas une fonctionnalité gratuite. Une fenêtre de 10M tokens à pleine occupation nécessite un cache KV bien au-delà de l’empreinte des poids. Dimensionnez num_ctx / --max-model-len selon ce que votre mémoire contient réellement.
  • Tokios transmet le contenu d’image et les champs d’appels d’outils à votre runtime amont — il n’ajoute pas de capacités que le runtime ou la quantification ne prend pas en charge.

​
FAQ

Le téléchargement Q4-class de Scout est ~67 GB (109B paramètres au total × ~0.5 bytes à Q4 ≈ 55 GB de poids, plus les surcoûts). Celui de Maverick est ~245 GB (400B × ~0.5 bytes ≈ 200 GB de poids, plus les surcoûts). Aucun ne tient dans la VRAM d’un seul GPU grand public — Scout nécessite 96–128 GB de mémoire unifiée (Apple Silicon, DGX Spark) ou un serveur multi-GPU ; Maverick nécessite un serveur multi-GPU avec 8× 80 GB classe.
Pas en VRAM — aucun modèle ne tient sur une carte de 24–48 GB. Les runtimes basés sur llama.cpp peuvent décharger les experts en RAM système, mais le débit chute fortement une fois les poids hors du GPU. Pour un seul GPU grand public, utilisez la ligne Llama 3.x à la place (llama3.1:8b ou llama3.3:70b), ou le Muse Glimmer 30B de Meta qui tient sur une seule carte de 24 GB à 4-bit.
Llama 4 utilise la Llama 4 Community License de Meta — pas Apache ni MIT. Elle comporte une politique d’utilisation acceptable et nécessite une licence Meta séparée pour les produits au-dessus de 700 millions d’utilisateurs actifs mensuels. Consultez les termes de licence avant un usage commercial.
Les deux activent 17B paramètres par token, mais Scout a 109B paramètres au total sur 16 experts avec un contexte de 10M tokens (~67 GB à Q4), tandis que Maverick a 400B paramètres au total sur 128 experts avec un contexte de 1M tokens (~245 GB à Q4). Scout tient sur 96–128 GB de mémoire unifiée ; Maverick nécessite un serveur multi-GPU. Choisissez Scout s’il tient sur votre matériel — Maverick seulement si vous avez besoin du plus grand pool d’experts et pouvez l’héberger.
Le développement de modèles de Meta est passé à la ligne Muse — le fermé Muse Spark et l’ouvert Muse Glimmer 30B. Meta n’a pas officiellement arrêté Llama et les poids restent téléchargeables, mais aucun Llama 5 n’a été annoncé.

Muse Glimmer

La ligne actuelle à poids ouverts de Meta — Apache 2.0, agentique, et tient sur une seule carte de 24 GB.

Qu'est-ce qui tient sur votre GPU ?

Dimensionnez le modèle à votre VRAM ou mémoire unifiée avant de télécharger.

Quantification et matériel

Quels formats de poids fonctionnent sur votre GPU, Mac ou machine à mémoire unifiée.

Démarrage rapide

Associez un connecteur et enregistrez votre premier modèle de bout en bout.