Passer au contenu principal
Votre station de travail RTX fait déjà tourner le modèle. La difficulté consiste à y accéder depuis votre ordinateur portable, un agent de codage ou la machine d’un coéquipier sans exposer votre PC de jeu à internet. Lancez le connecteur Tokios à côté de votre environnement d’exécution et vous obtenez un point de terminaison authentifié à https://api.tokios.com qui accepte les formats de requête OpenAI et Anthropic. Ainsi, Claude Code, un script SDK OpenAI ou toute personne que vous invitez peut atteindre la machine sans toucher à votre routeur.

​
Après « ça fonctionne » : le fossé du point de terminaison

Les propriétaires de stations de travail RTX de bureau — 5090, 4090, 3090 et cartes similaires — font généralement tourner un modèle qui répond localement avec Ollama, LM Studio, llama.cpp ou vLLM, puis se heurtent au problème suivant : utiliser ce modèle depuis un autre appareil que le bureau lui-même.
  • Un point de terminaison accessible depuis ailleurs. L’environnement d’exécution se lie à 127.0.0.1 par défaut. L’atteindre depuis un ordinateur portable, un agent de codage qui tourne ailleurs ou la machine d’un coéquipier signifie se lier à 0.0.0.0, transférer un port sur votre routeur domestique ou monter un tunnel — chacun avec sa propre configuration et aucune authentification par client.
  • Format d’API. Claude Code parle le format Messages d’Anthropic ; Ollama, LM Studio, llama.cpp et vLLM parlent le format Chat Completions d’OpenAI. Faire le pont entre les deux exige généralement l’écriture et la maintenance d’un petit proxy.
  • Un emplacement stable pour pointer les outils. Basculer entre Ollama, LM Studio, llama.cpp ou vLLM sur la même machine, ou changer de modèle chargé, ne devrait pas impliquer de reconfigurer chaque client qui lui parle.
Tokios est la couche de connexion qui se superpose à l’environnement d’exécution que vous utilisez déjà — il ne remplace pas Ollama, LM Studio, llama.cpp ou vLLM.
DeepSeek-V4-Flash-0731 n’est pas un modèle typique de station de travail unique. Une paire de cartes RTX PRO 6000 Blackwell a suffisamment de 192 GB de VRAM agrégée pour son plancher de poids, mais ce chemin à 2 cartes est du territoire de validation communautaire. Consultez DeepSeek V4 Flash local hardware pour les mises en garde d’exécution et de contexte.

​
Configurez-le sur votre station de travail

1

Démarrez votre environnement d'exécution sur la station de travail

Lancez votre serveur de modèles comme d’habitude, par exemple :
ou avec le serveur local de LM Studio, llama.cpp ou vLLM :
Confirmez qu’il répond bien sur son API compatible OpenAI /v1 avant d’ajouter le connecteur.
2

Obtenez un code d'appairage et appairez le connecteur

Dans le dashboard, ouvrez l’onglet Setup et sélectionnez Start pairing pour obtenir un code d’appairage à usage unique au format TKS-XXXX-XXXX (valable environ 15 minutes).Sur Windows (PowerShell) :
Sur Linux :
De retour dans le dashboard, approuvez l’appareil dans l’onglet Setup ou Connectors. Le jeton du connecteur est transmis via le tunnel — vous n’avez jamais à le coller dans un fichier.
3

Pointez le connecteur vers le point de terminaison /v1 de votre environnement d'exécution

L’upstream du connecteur est l’API compatible OpenAI propre à l’environnement d’exécution sur la station de travail, pas un port que vous transférez sur votre routeur. Ports par défaut : Ollama 11434, LM Studio 1234, llama.cpp 8080, vLLM 8000 (tous avec /v1 ajouté ; pour Ollama utilisez son API compatible OpenAI /v1, pas l’/api native). Aucune règle de pare-feu entrante ni transfert de port n’est nécessaire — le connecteur ne fait que des appels sortants.
4

Enregistrez un déploiement

Dans l’onglet Models, associez votre id de modèle amont à un nom de déploiement public tel que rtx-coder. Les clients envoient ce nom de déploiement dans le champ model, pas l’id amont.
5

Créez une clé API

Dans l’onglet Keys, créez une clé. Les clés sont des jetons Bearer sk-tok-…, affichés une seule fois, et peuvent être limités à des motifs de noms de déploiement spécifiques.

​
Utilisez-le depuis votre ordinateur portable ou votre agent

Une fois le connecteur appairé et un déploiement enregistré, pointez votre client vers Tokios au lieu de l’adresse réseau locale de votre station de travail.
Le sélecteur de modèles de Claude Code ne liste que les ids claude*, donc votre déploiement Tokios n’apparaîtra pas dans la liste — passez --model rtx-coder explicitement.
Si vous exécutez plusieurs backends sur la station de travail — par exemple Ollama pour un modèle et vLLM pour un autre — utilisez le fichier de configuration du connecteur pour définir plusieurs routes et upstreams au lieu du flux d’appairage à upstream unique. Consultez Model routing pour savoir comment enregistrer et basculer entre plusieurs déploiements derrière le même point de terminaison.

​
Quelle taille de modèle puis-je exécuter ?

Votre VRAM détermine quelles tailles et quelles quantifications de modèles sont réalistes sur une 5090, 4090 ou 3090, et c’est une question matérielle, pas Tokios. Consultez Choose a local model pour les conseils de dimensionnement, et Test your deployment pour comparer la latence et le débit entre les déploiements une fois le trafic acheminé via Tokios.
Meta a testé Muse Glimmer 30B spécifiquement sur une RTX 5090, et y rapporte son plus grand gain de vitesse DFlash — 3.1x. La RTX 5090 avec ses 32 GB fait tourner confortablement le build -dflash. Une carte avec 24 GB — 3090 ou 4090 — fait tourner le build 4 bits standard (18 GB) entièrement résident.

​
Pourquoi un seul point de terminaison

  • Changez de backend sans toucher à la configuration client. Passez d’Ollama à LM Studio ou vLLM sur la même machine, et chaque agent et script qui cible déjà rtx-coder continue de fonctionner — vous ne changez que l’upstream du connecteur, pas le client.
  • Aucun port entrant sur un PC de jeu domestique. Le connecteur ne fait que des connexions sortantes, donc vous n’avez pas besoin de transférer un port sur votre routeur, de lier l’environnement d’exécution à 0.0.0.0 ou de maintenir votre propre tunnel pour y accéder depuis un ordinateur portable ou un agent de codage.
  • Des clés limitées au lieu d’une adresse de liaison partagée. Donnez à un coéquipier une clé limitée à des motifs de déploiement spécifiques au lieu d’ouvrir le port de l’environnement d’exécution à votre réseau.

​
Prochaines étapes

Quickstart

Partez de zéro pour un connecteur, un déploiement et une clé API fonctionnels.

Install the connector

Référence complète d’installation et d’appairage du connecteur pour toutes les plateformes.

Use Claude Code

Configurez ANTHROPIC_BASE_URL et ANTHROPIC_API_KEY en détail.

Connector config reference

Servez plusieurs modèles depuis une seule station de travail avec tokios-connector.json.