Utilisez OpenAI Codex avec vos propres modèles locaux via Tokios

OpenAI Codex communique avec Tokios via l’API Responses. Ajoutez Tokios comme fournisseur de modèle dans ~/.codex/config.toml, pointez-le vers https://api.tokios.com/v1, et Codex s’exécute contre votre propre modèle local — sur Ollama, LM Studio ou n’importe quel backend compatible OpenAI — depuis n’importe où, via votre tunnel privé.

Prérequis

Un connecteur Tokios en cours d’exécution apparié avec votre modèle local — voir Installation du connecteur
Un nom de déploiement de modèle enregistré — voir Enregistrer un modèle
Une clé API Tokios — voir Clés API
OpenAI Codex installé

Configurer Codex

Définissez votre clé Tokios dans l’environnement, puis ajoutez un fournisseur et un profil Tokios à ~/.codex/config.toml :

export OPENAI_API_KEY=sk-tok-YOUR_KEY

set OPENAI_API_KEY=sk-tok-YOUR_KEY

~/.codex/config.toml

[model_providers.tokios]
name = "Tokios"
base_url = "https://api.tokios.com/v1"
env_key = "OPENAI_API_KEY"
wire_api = "responses"

[profiles.tokios]
model = "gemma-tunnel"
model_provider = "tokios"
disable_response_storage = true

wire_api = "responses" et disable_response_storage = true sont tous deux requis. Tokios fournit la surface Responses de manière stateless, donc Codex ne doit pas s’appuyer sur le stockage de réponses côté serveur.

Puis exécutez Codex avec le profil Tokios :

codex --profile tokios

Remplacez gemma-tunnel par le nom public du modèle que vous avez enregistré dans la console.

En utilisant le SDK Python d’OpenAI

Pour appeler votre modèle local de manière programmatique avec le SDK OpenAI, pointez le client vers l’URL de base Tokios :

openai_tokios.py

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "Explain async/await in Python"}],
)
print(response.choices[0].message.content)

L’URL de base du SDK OpenAI doit se terminer par /v1. Le point de terminaison Tokios est https://api.tokios.com/v1.

Matériel et compatibilité

Servir et connecter votre runtime

Connecter un client ou une app

Comparer

Utilisez OpenAI Codex avec vos propres modèles locaux via Tokios

Prérequis

Configurer Codex

En utilisant le SDK Python d’OpenAI

​Prérequis

​Configurer Codex

​En utilisant le SDK Python d’OpenAI

Prérequis

Configurer Codex

En utilisant le SDK Python d’OpenAI