OPENAI_API_BASE sowie OPENAI_API_KEY aus Ihrer Umgebung abruft. Legen Sie OPENAI_API_BASE auf https://api.tokios.com/v1 fest, setzen Sie OPENAI_API_KEY auf Ihren sk-tok-…-Schlüssel und wählen Sie Ihr Modell mithilfe des openai/-Präfixes aus – beispielsweise aider --model openai/gemma-tunnel.
Voraussetzungen
- Ein laufender Tokios-Connector, der mit Ihrem lokalen Modell verknüpft ist – siehe Connector installieren
- Ein registrierter Name für die Modell-Deployment – siehe Modell registrieren
- Ein Tokios-API-Schlüssel – siehe API-Schlüssel
- Aider muss installiert sein
Aider konfigurieren
Exportieren Sie die beiden Umgebungsvariablen und starten Sie anschließend Aider, wobei Sie dasopenai/-Modell-Präfix sowie den Namen Ihrer Deployment angeben.
gemma-tunnel durch den öffentlichen Deployment-Namen, den Sie in der Konsole registriert haben.
Aider gibt gelegentlich eine Warnung aus, dass es den Modellnamen nicht erkennt und weder die Größe des Kontextfensters noch die Kosten bestimmen kann. Dies geschieht, weil
gemma-tunnel nicht in Aiders interner Liste mit Modell-Metadaten enthalten ist; das ist bei lokalen oder privaten Deployment-Namen üblich und harmlos. Dennoch sendet Aider Anfragen an OPENAI_API_BASE wie gewohnt.Falls etwas nicht funktioniert
- 401 von Tokios – der Eintrag
OPENAI_API_KEYfehlt, wurde falsch eingegeben oder der API-Schlüssel wurde widerrufen. Prüfen Sie bitte, ob der Schlüssel auf dem Keys-Reiter aktiv ist. - 404 Deployment nicht gefunden – der Name nach
openai/entspricht keinem registrierten Deployment. Vergewissern Sie sich, dass der öffentliche Name korrekt ist, indem Sie den Models-Reiter prüfen. - 403 – der API-Schlüssel ist nicht auf das jeweilige Modellmuster des Deployments zugelassen oder das Konto wurde gesperrt. Überprüfen Sie die zugewiesenen Modellmuster im Keys-Reiter.
- 503 connector_unavailable / connector_busy – der mit dem Deployment verknüpfte Connector ist offline oder hat bereits die maximale Anzahl an Anfragen verarbeitet. Stellen Sie sicher, dass der Connector auf dem Connectors-Reiter aktiv und verbunden ist.
Ihr Modell verlässt Ihren Rechner niemals – Ihr Endpunkt ist überall nutzbar.
Aider kommuniziert ausschließlich mithttps://api.tokios.com/v1. Ihr Modell, seine Gewichte sowie Ihr Code bleiben stets auf dem Rechner, auf dem der Connector läuft. Standardmäßig speichert Tokios weder Prompts noch Antworten, sondern lediglich Nutzungsstatistiken und Metadaten. Falls Ihr Workspace-Administrator die Funktion Anfragen-Protokollierung aktiviert hat, werden Anfragen (nicht Antworten) verschlüsselt für 7 Tage gespeichert; sie sind ausschließlich in Ihrem Dashboard einsehbar – bei Einsatz eines Coding-Agenten enthalten diese Anfragen auch die gelesenen Dateien.
Kompatible Clients
Hier finden Sie die Basis-URL sowie die Einstellungen für den API-Schlüssel für alle unterstützten Clients.
API-Schlüssel
Erstellen, begrenzen und ersetzen Sie
sk-tok-…-Schlüssel für Teammitglieder und Agenten.