Verwenden Sie OpenAI Codex mit Ihren eigenen lokalen Modellen über Tokios

OpenAI Codex kommuniziert mit Tokios über die Responses-API. Fügen Sie Tokios als Modellanbieter in ~/.codex/config.toml hinzu, verweisen Sie auf https://api.tokios.com/v1, und Codex läuft gegen Ihr eigenes lokales Modell — auf Ollama, LM Studio oder einem beliebigen OpenAI-kompatiblen Backend — von überall, durch Ihren privaten Tunnel.

Voraussetzungen

Ein laufender Tokios Connector, der mit Ihrem lokalen Modell gekoppelt ist — siehe Connector Install
Ein registrierter Modell-Deployment-Name — siehe Register a Model
Ein Tokios API-Schlüssel — siehe API Keys
OpenAI Codex installiert

Codex konfigurieren

Legen Sie Ihren Tokios-Schlüssel in der Umgebung fest und fügen Sie dann einen Tokios-Anbieter und ein Profil zu ~/.codex/config.toml hinzu:

export OPENAI_API_KEY=sk-tok-YOUR_KEY

set OPENAI_API_KEY=sk-tok-YOUR_KEY

~/.codex/config.toml

[model_providers.tokios]
name = "Tokios"
base_url = "https://api.tokios.com/v1"
env_key = "OPENAI_API_KEY"
wire_api = "responses"

[profiles.tokios]
model = "gemma-tunnel"
model_provider = "tokios"
disable_response_storage = true

wire_api = "responses" und disable_response_storage = true sind beide erforderlich. Tokios stellt die Responses-Oberfläche zustandslos bereit, daher darf Codex nicht auf serverseitige Antwortspeicherung vertrauen.

Führen Sie dann Codex mit dem Tokios-Profil aus:

codex --profile tokios

Ersetzen Sie gemma-tunnel durch den öffentlichen Modellnamen, den Sie in der Konsole registriert haben.

Verwenden Sie das OpenAI Python SDK

Um Ihr lokales Modell programmatisch mit dem OpenAI SDK aufzurufen, zeigen Sie den Client auf die Tokios-Basis-URL:

openai_tokios.py

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "Explain async/await in Python"}],
)
print(response.choices[0].message.content)

Die Basis-URL des OpenAI SDK muss mit /v1 enden. Der Tokios-Endpunkt ist https://api.tokios.com/v1.

Hardware und Kompatibilität

Runtime bereitstellen und verbinden

Client oder App verbinden

Vergleich

Verwenden Sie OpenAI Codex mit Ihren eigenen lokalen Modellen über Tokios

Voraussetzungen

Codex konfigurieren

Verwenden Sie das OpenAI Python SDK

​Voraussetzungen

​Codex konfigurieren

​Verwenden Sie das OpenAI Python SDK

Voraussetzungen

Codex konfigurieren

Verwenden Sie das OpenAI Python SDK