Passer au contenu principal
Votre machine Strix Halo fait déjà tourner le modèle. La difficulté consiste à y accéder depuis votre ordinateur portable, votre éditeur ou votre agent de codage sans ouvrir de ports entrants. Lancez le connecteur Tokios à côté de votre environnement d’exécution et vous obtenez un point de terminaison authentifié à https://api.tokios.com qui accepte les formats de requête OpenAI et Anthropic. Ainsi, Claude Code, opencode ou tout client compatible OpenAI peut atteindre la machine sans modifier les règles de pare-feu.

​
Après « ça fonctionne » : le fossé du point de terminaison

Les propriétaires de Framework Desktop, mini-PC et autres appareils AMD Ryzen AI Max+ 395 (« Strix Halo ») achètent la configuration à 128 GB de mémoire unifiée spécifiquement pour exécuter de gros modèles locaux. Sur cette puce, l’expérience générale de la communauté est que llama.cpp avec le backend Vulkan est plus fiable que ROCm/HIP. Une fois que le modèle répond sur localhost, la plupart des utilisateurs veulent ensuite y brancher un agent de codage — opencode, Claude Code ou un outil similaire. Cela implique :
  • Un point de terminaison compatible OpenAI accessible depuis ailleurs. L’environnement d’exécution se lie à 127.0.0.1 par défaut sur la machine Strix Halo. L’atteindre depuis un ordinateur portable ou un agent de codage qui tourne ailleurs signifie se lier à 0.0.0.0, ouvrir un port ou monter un tunnel — chacun avec sa propre configuration et aucune authentification par client.
  • Format d’API. Claude Code parle le format Messages d’Anthropic ; llama.cpp, Ollama et LM Studio parlent le format Chat Completions d’OpenAI. Faire le pont entre les deux exige généralement l’écriture et la maintenance d’un petit proxy.
  • Un emplacement stable pour pointer les outils. Basculer entre llama.cpp, Ollama ou LM Studio sur la même machine, ou changer de modèle chargé, ne devrait pas impliquer de reconfigurer chaque client qui lui parle.
Tokios est la couche de connexion qui se superpose à l’environnement d’exécution que vous utilisez déjà — il ne remplace pas llama.cpp, Ollama, LM Studio, vLLM ou Lemonade Server.
2 boîtiers Strix Halo peuvent avoir suffisamment de mémoire agrégée pour les poids GGUF de DeepSeek-V4-Flash-0731, mais le chemin RPC llama.cpp requis est fragile, non sécurisé et relève de la preuve de concept. Ne le traitez pas comme un déploiement de production. Consultez DeepSeek V4 Flash local hardware pour la limite expérimentale.

​
Configurez-le sur votre machine Strix Halo

1

Démarrez votre environnement d'exécution sur la machine

Lancez votre serveur de modèles comme d’habitude, par exemple avec llama.cpp sur le backend Vulkan :
ou avec le serveur local de LM Studio, ou Ollama :
Lemonade Server est une autre option — il détecte automatiquement votre matériel Strix Halo et sélectionne le backend Vulkan pour vous, ce qui évite la sélection manuelle du backend :
Lemonade Server écoute par défaut sur le port 13305 et expose une API compatible OpenAI à /v1. Il supporte également les NPU AMD Ryzen AI, ce qu’aucun autre backend ici ne fait. Consultez Lemonade Server remote access pour le guide de configuration complet.Confirmez qu’il répond bien sur son API compatible OpenAI /v1 avant d’ajouter le connecteur.
2

Obtenez un code d'appairage et appairez le connecteur

Dans le dashboard, ouvrez l’onglet Setup et sélectionnez Start pairing pour obtenir un code d’appairage à usage unique au format TKS-XXXX-XXXX (valable environ 15 minutes).Sur Linux :
Sur Windows (PowerShell) :
De retour dans le dashboard, approuvez l’appareil dans l’onglet Setup ou Connectors. Le jeton du connecteur est transmis via le tunnel — vous n’avez jamais à le coller dans un fichier.
3

Pointez le connecteur vers le point de terminaison /v1 de votre environnement d'exécution

L’upstream du connecteur est l’API compatible OpenAI propre à l’environnement d’exécution sur la machine, pas un port que vous exposez vers l’extérieur. Ports par défaut : llama.cpp 8080, LM Studio 1234, Ollama 11434, Lemonade Server 13305 (tous avec /v1 ajouté ; pour Ollama utilisez son API compatible OpenAI /v1, pas l’/api native). Aucune règle de pare-feu entrante n’est nécessaire — le connecteur ne fait que des appels sortants.
4

Enregistrez un déploiement

Dans l’onglet Models, associez votre id de modèle amont à un nom de déploiement public tel que strix-coder. Les clients envoient ce nom de déploiement dans le champ model, pas l’id amont.
5

Créez une clé API

Dans l’onglet Keys, créez une clé. Les clés sont des jetons Bearer sk-tok-…, affichés une seule fois, et peuvent être limités à des motifs de noms de déploiement spécifiques.

​
Utilisez-le depuis votre agent de codage

Une fois le connecteur appairé et un déploiement enregistré, pointez votre agent de codage vers Tokios au lieu de l’adresse locale de la machine.
Le sélecteur de modèles de Claude Code ne liste que les ids claude*, donc votre déploiement Tokios n’apparaîtra pas dans la liste — passez --model strix-coder explicitement.
Si vous exécutez plusieurs backends sur la machine — par exemple llama.cpp pour un modèle et Lemonade Server ou Ollama pour un autre — utilisez le fichier de configuration du connecteur pour définir plusieurs routes et upstreams au lieu du flux d’appairage à upstream unique. Consultez Model routing pour savoir comment enregistrer et basculer entre plusieurs déploiements derrière le même point de terminaison.

​
Pourquoi un seul point de terminaison

  • Changez de backend sans toucher à la configuration de l’agent. Passez de llama.cpp à LM Studio ou Ollama sur la même machine, et chaque agent qui cible déjà strix-coder continue de fonctionner — vous ne changez que l’upstream du connecteur, pas le client.
  • Des clés limitées au lieu d’une adresse de liaison partagée. Donnez à un collègue une clé limitée à des motifs de déploiement spécifiques au lieu d’ouvrir le port de l’environnement d’exécution à votre réseau.
  • Aucun port entrant sur la machine. Le connecteur ne fait que des connexions sortantes, donc vous n’avez pas besoin de lier l’environnement d’exécution à 0.0.0.0 ni de maintenir votre propre tunnel pour y accéder depuis un ordinateur portable ou un agent de codage.

​
Strix Halo peut-il exécuter Kimi K3 ?

Non. Le pool de mémoire unifiée de 128 GB de Strix Halo (~90-110 GB disponibles après surcharge du système d’exploitation) est bien en dessous de ce que Kimi K3 requiert. K3 a 2.8 trillion de paramètres au total et nécessite environ 1.4 TB à sa précision MXFP4 native (4 bits par paramètre) — avant les échelles de bloc, les tampons d’exécution, les activations et le cache KV. Même si vous pouviez utiliser chaque octet du pool de 128 GB pour les poids, il vous manquerait encore environ 1.27 TB. Moonshot recommande de servir K3 sur un supernœud avec 64 accélérateurs ou plus. Pour le calcul complet de la mémoire et le dimensionnement du cluster, consultez Kimi K3 hardware deep dive.
Vous cherchez un modèle qui tient réellement dans Strix Halo ? Consultez what to run instead of Kimi K3 — le meilleur modèle de codage et général pour 128 GB de mémoire unifiée.

​
Prochaines étapes

Quickstart

Partez de zéro pour un connecteur, un déploiement et une clé API fonctionnels.

Install the connector

Référence complète d’installation et d’appairage du connecteur pour toutes les plateformes.

Use Claude Code

Configurez ANTHROPIC_BASE_URL et ANTHROPIC_API_KEY en détail.

Connector config reference

Servez plusieurs modèles depuis une seule machine avec tokios-connector.json.