Utilisez Claude Code avec vos propres modèles locaux via Tokios

Claude Code lit deux variables d’environnement pour décider où envoyer les requêtes. Pointez ANTHROPIC_BASE_URL vers Tokios et définissez votre clé API Tokios, et Claude Code s’exécutera contre un modèle local sur Ollama, LM Studio, llama.cpp, ou vLLM — depuis n’importe quelle machine, pas seulement celle qui exécute le modèle. Chaque requête passe par votre tunnel privé vers votre propre matériel.

Prérequis

Un connecteur Tokios en cours d’exécution apparié avec votre modèle local — voir Installation du connecteur
Un nom de déploiement de modèle enregistré — voir Enregistrer un modèle
Une clé API Tokios — voir Clés API
Claude Code installé

Configurez l’environnement

Windows CMD
macOS & Linux

claude-code-windows.cmd

set ANTHROPIC_BASE_URL=https://api.tokios.com
set ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

claude-code-unix.sh

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

Transmettez toujours --model avec le nom de votre modèle enregistré. Le sélecteur de modèles de Claude Code n’affiche que les identifiants claude*, il n’affichera donc pas vos modèles Tokios — le nommer explicitement dirige la requête vers votre déploiement.

Persistez la configuration

Pour éviter d’exporter les variables dans chaque nouvelle session de terminal, ajoutez-les au fichier de paramètres propre de Claude Code, à votre profil shell ou à un fichier .env. ~/.claude/settings.json L’option la plus portable, car elle voyage avec votre configuration Claude Code plutôt qu’avec votre shell. Utilisez .claude/settings.json à l’intérieur d’un projet pour l’appliquer uniquement à ce projet :

~/.claude/settings.json

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://api.tokios.com",
    "ANTHROPIC_API_KEY": "sk-tok-YOUR_KEY"
  }
}

Claude Code lit ce fichier au démarrage, donc une session déjà ouverte ne prendra pas en compte une modification tant que vous ne la redémarrez pas. Si votre clé est rejetée ici, remplacez ANTHROPIC_API_KEY par ANTHROPIC_AUTH_TOKEN, qui définit la valeur brute Authorization: Bearer — la forme que les passerelles qui émettent leurs propres clés attendent.

~/.bashrc ou ~/.zshrc Ouvrez votre profil shell et ajoutez :

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY

Puis rechargez-le :

source ~/.bashrc   # or source ~/.zshrc

.env file Si votre flux de travail prend en charge les fichiers .env (par exemple via direnv ou un plugin shell), créez un fichier .env à la racine de votre projet :

.env

ANTHROPIC_BASE_URL=https://api.tokios.com
ANTHROPIC_API_KEY=sk-tok-YOUR_KEY

Chargez-le avant de démarrer Claude Code :

export $(cat .env | xargs) && claude --model gemma-tunnel

Vérifier la connexion

Exécuter une invite unique rapide pour confirmer que Claude Code atteint votre modèle local via Tokios :

claude --model gemma-tunnel -p "Say hello"

Sortie attendue :

Hello! How can I help you today?

Si vous voyez une réponse, vos requêtes transitent avec succès par la passerelle Tokios vers votre modèle local.

Claude Code envoie la requête au format de messages Anthropic. Tokios la traduit dans le format attendu par votre backend local et renvoie le résultat en flux continu.

Matériel et compatibilité

Servir et connecter votre runtime

Connecter un client ou une app

Comparer

Utilisez Claude Code avec vos propres modèles locaux via Tokios

Prérequis

Configurez l’environnement

Persistez la configuration

Vérifier la connexion

​Prérequis

​Configurez l’environnement

​Persistez la configuration

​Vérifier la connexion

Prérequis

Configurez l’environnement

Persistez la configuration

Vérifier la connexion