127.0.0.1:11434, donc seule votre machine peut s’y connecter. En définissant OLLAMA_HOST=0.0.0.0, il écoute sur toutes les interfaces réseau, mais Ollama ne propose aucune authentification intégrée : toute entité atteignant le port 11434 peut utiliser l’API sans aucune vérification. Il est donc préférable de conserver Ollama sur localhost et d’exécuter à côté le connecteur Tokios : ce dernier se connecte à https://api.tokios.com, tandis que vos outils, collègues ou agents peuvent interroger l’endpoint sécurisé situé à 1 depuis n’importe où.
Les premières tentatives des utilisateurs — et leurs limites
Chacun de ces outils convient à des usages généraux. Aucun n’a été conçu spécifiquement pour « exposer une API d’inférence locale à Internet », d’où des restrictions documentées qui se manifestent précisément dans ce type de scénario.OLLAMA_HOST=0.0.0.0 (liaison sur toutes les interfaces)
OLLAMA_HOST=0.0.0.0 (liaison sur toutes les interfaces)
Redirection de port via votre routeur
Redirection de port via votre routeur
11434 vers votre machine comporte deux problèmes majeurs. Si votre FAI utilise le CGNAT, vous ne disposez pas d’une adresse IP publique stable à rediriger. Même si vous parvenez à ouvrir un port, des outils de scan tels que Shodan et Censys indexent les services exposés en quelques heures ou jours — et, là encore, aucune authentification n’est appliquée à moins d’en mettre une vous-même.Tailscale
Tailscale
Cloudflare Tunnel
Cloudflare Tunnel
text/event-stream. De plus, les requêtes proxyées sont soumises aux délais d’attente imposés par Cloudflare (environ 100 secondes dans la version gratuite, moins dans certains abonnements) ; ainsi, les générations de longue durée risquent d’être interrompues en cours de transmission.ngrok (forfait gratuit)
ngrok (forfait gratuit)
La méthode ne permettant que l’envoi de données
Lancez Ollama localement, comme d’habitude.
127.0.0.1 — ne modifiez pas la valeur de OLLAMA_HOST. Téléchargez puis exécutez votre modèle.http://127.0.0.1:11434 par défaut.Associez le connecteur Tokios.
TKS-XXXX-XXXX, valable environ 15 minutes.Sur la machine exécutant Ollama, lancez la commande d’installation unique adaptée à votre système d’exploitation.tokios-connector ? Dans ce cas, saisissez directement le code requis.Configurez le connecteur afin qu’il pointe vers l’API /v1 d’Ollama.
/v1, et c’est cette interface que Tokios utilise, et non les points de terminaison natifs d’Ollama (/api). Pour un déploiement à un seul modèle, l’assistant de configuration de la console choisit automatiquement http://127.0.0.1:11434/v1 comme ID de modèle amont. Si vous utilisez plusieurs modèles via un fichier de configuration tokios-connector.json, indiquez manuellement l’ID de modèle amont BaseUrl.Effectuez le déploiement.
llama3-tunnel. Ce nom public, et non l’ID de modèle local d’Ollama, est celui que les clients transmettent dans le champ model.Générez une clé API.
* pour autoriser tous les modèles). Copiez immédiatement la clé sk-tok-… ; elle ne s’affiche qu’une seule fois.Utilisez-la depuis n’importe quel endroit.
Une fois que vous disposez d’un nom de déploiement et d’une clé API, tout client compatible OpenAI ou Anthropic peut accéder à votre modèle d’Ollama, que ce soit depuis une autre machine, l’ordinateur d’un collègue ou un agent hébergé.Tokios contre Ollama Cloud
Ollama propose également Ollama Cloud : il s’agit de modèles hébergés accessibles viaollama run <model>:cloud ou une clé API d’Ollama. Les poids des modèles s’exécutent sur l’infrastructure d’Ollama et sont transmis via votre démon ollama local lorsque vous êtes connecté. Cette solution gérée est intéressante, mais elle s’oppose au auto-hébergement : vos requêtes sont envoyées aux serveurs d’Ollama, et aucun poids local ne peut être contrôlé via un tag :cloud. (Certains modèles de pointe — Kimi, MiniMax, ainsi que les plus grands niveaux de Nemotron — ne sont disponibles sur Ollama qu’en version :cloud, pour cette raison précise.)
Tokios s’adresse à l’autre cas de figure : le modèle s’exécute sur votre matériel, et Tokios se contente de mettre en place un point de terminaison authentifié devant celui-ci. Vous conservez ainsi les poids, le chemin des données et les clés.
:cloud lorsque nécessaire — toutefois seul le déploiement local garantit que vos données restent sur votre propre matériel.
Questions fréquentes
Sur quel port Ollama écoute-t-il ?
Sur quel port Ollama écoute-t-il ?
127.0.0.1 (uniquement localhost). Vous pouvez modifier le port et l’adresse d’écoute via la variable d’environnement OLLAMA_HOST ; par exemple, OLLAMA_HOST=0.0.0.0:11435 permet d’écouter sur toutes les interfaces au port 11435. Pour vérifier que Ollama fonctionne, utilisez curl http://localhost:11434.Comment rendre Ollama accessible depuis mon réseau ?
Comment rendre Ollama accessible depuis mon réseau ?
Ollama dispose-t-il d’une clé API ?
Ollama dispose-t-il d’une clé API ?
sk-tok-… à portée définie sans proxy inverse : il suffit d’associer un connecteur, d’enregistrer un déploiement et de créer une clé ; les appelants s’authentifient alors via https://api.tokios.com au lieu de se connecter directement au port d’Ollama.Comment interroger Ollama avec curl ?
Comment interroger Ollama avec curl ?
curl http://localhost:11434/api/generate -d '{"model": "llama3", "prompt": "Hello"}'. Pour l’interface compatible OpenAI : curl http://localhost:11434/v1/chat/completions -d '{"model": "llama3", "messages": [{"role": "user", "content": "Hello"}]}'. Depuis un poste distant, remplacez localhost par l’adresse IP du serveur (cela nécessite OLLAMA_HOST=0.0.0.0).Puis-je utiliser OLLAMA_ORIGINS afin d’autoriser des requêtes cross-origin vers Ollama ?
Puis-je utiliser OLLAMA_ORIGINS afin d’autoriser des requêtes cross-origin vers Ollama ?
127.0.0.1 et 0.0.0.0. Définissez OLLAMA_ORIGINS pour ajouter d’autres origines ; pour les extensions navigateur, utilisez OLLAMA_ORIGINS=chrome-extension://*,moz-extension://*. Cette configuration ne concerne que les clients navigateur ; les clients API utilisant curl ou les SDK ne sont pas soumis aux règles CORS.La diffusion en continu est-elle prise en charge ?
La diffusion en continu est-elle prise en charge ?
"stream": true et Tokios renverra des événements envoyés par le serveur au format OpenAI ou Anthropic, selon l’interface API utilisée.Puis-je autoriser mes collègues à accéder à Ollama sans leur donner un accès direct à mon instance ?
Puis-je autoriser mes collègues à accéder à Ollama sans leur donner un accès direct à mon instance ?
sk-tok-… distincte pour chaque collaborateur dans l’onglet Keys, puis limitez son champ d’action aux déploiements requis. La révocation d’une clé entraîne immédiatement la perte d’autorisation, ce qui permet de supprimer l’accès sans toucher à Ollama ni au connecteur.Puis-je exposer plus de 1 modèles Ollama ?
Puis-je exposer plus de 1 modèles Ollama ?
tokios-connector.json pour définir plusieurs ID de modèle amont et routes associées à un seul connecteur. Consultez Configuration du connecteur.Ce système utilise-t-il les points de terminaison natifs /api d’Ollama ?
Ce système utilise-t-il les points de terminaison natifs /api d’Ollama ?
/v1, et non avec les points de terminaison natifs que sont /api/generate et /api/chat.Votre modèle ne quitte jamais votre machine ; votre point de terminaison fonctionne partout.
Ollama continue d’opérer exactement comme actuellement sur localhost, sans ports entrants ni API exposée. Le connecteur ne fait que des appels sortants. Tout le reste — authentification, routage, diffusion en continu — se gère via un seul point de terminaison que vous pouvez appeler depuis n’importe quelle machine, collaborateur ou agent auquel vous attribuez une clé API.Démarrage rapide
Clés API
sk-tok-… destinées à vos collègues et agents.
OLLAMA_HOST=0.0.0.0(ouOLLAMA_HOST=0.0.0.0:11434) puis redémarrez Ollama. Sur Linux avec systemd, ajoutezEnvironment="OLLAMA_HOST=0.0.0.0:11434"sous[Service]dansollama.servicepuis exécutezsystemctl daemon-reload && systemctl restart ollama. Sur macOS, utilisezlaunchctl setenv OLLAMA_HOST "0.0.0.0:11434". Sur Windows, configurezOLLAMA_HOSTdans les variables d’environnement de l’utilisateur puis redémarrez Ollama.