Zum Hauptinhalt springen
big-AGI ist ein funktionsreiches, multi-provider-fähiges AI-Frontend, das das Hinzufügen von bis zu fünf benutzerdefinierten OpenAI-kompatiblen Endpunkten unterstützt. Richten Sie einen auf https://api.tokios.com/v1 mit Ihrem sk-tok-…-Schlüssel ein, und big-AGI kommuniziert mit einem Modell auf Ihrer eigenen Hardware neben allen anderen konfigurierten Providern.

​
Voraussetzungen

Connector gepaart

Installieren und paaren Sie tokios-connector neben dem Modell, das big-AGI erreichen soll.

Modell registriert

Registrieren Sie ein Deployment (öffentlicher Name) für dieses Modell.

API-Schlüssel erstellt

Erstellen Sie einen sk-tok-…-Schlüssel, optional auf dieses Deployment beschränkt.

Unterstützte Backends

Stellen Sie sicher, dass Ihr lokales Backend (Ollama, llama.cpp, vLLM, LM Studio) läuft.

​
Tokios als benutzerdefinierten Endpunkt hinzufügen

1

Modellkonfiguration öffnen

Öffnen Sie die Models-Einstellungen von big-AGI und wählen Sie das Hinzufügen einer Quelle. Wählen Sie den OpenAI-compatible-Vendor (die Option für einen benutzerdefinierten OpenAI-ähnlichen Endpunkt). Der genaue Menüpfad und die Bezeichnungen variieren je nach big-AGI-Version – überprüfen Sie dies gegen die von Ihnen verwendete Version.
2

API-Host und -Schlüssel festlegen

Geben Sie den Tokios-Endpunkt und Ihren Schlüssel ein:
Schließen Sie /v1 in den Host ein.
3

Ihr Deployment laden

big-AGI erkennt Modelle automatisch vom Endpunkt. Da Tokios GET /v1/models implementiert, erscheinen Ihre registrierten Deployments (z. B. gemma-tunnel) zur Auswahl. Wenn ein Modell nicht aufgelistet ist, überprüfen Sie, ob Ihr Schlüssel auf dem Keys-Tab auf dieses Deployment beschränkt ist.
Für ein selbst gehostetes big-AGI können Sie dieselben Werte mit Umgebungsvariablen festlegen – OPENAI_API_HOST=https://api.tokios.com/v1 und OPENAI_API_KEY=sk-tok-YOUR_KEY. Übergeben Sie niemals einen echten Schlüssel in die Versionskontrolle oder eine gemeinsame Konfiguration.

​
Ein Frontend, Modelle von überall

big-AGI ist darauf ausgelegt, gleichzeitig mit vielen Providern zu kommunizieren. Durch das Hinzufügen von Tokios als einen seiner benutzerdefinierten OpenAI-kompatiblen Endpunkte fügen Sie Ihr eigenes lokales Modell neben allem anderen ein – der Connector neben diesem Modell wählt Tokios an, und big-AGI erreicht es unter https://api.tokios.com/v1 ohne eingehenden Port oder VPN.

​
Fehlerbehebung

Der von big-AGI gesendete API-Schlüssel fehlt, ist fehlerhaft oder wurde widerrufen. Stellen Sie sicher, dass Sie den vollständigen sk-tok-…-Schlüssel ohne zusätzlichen Leerzeichen verwendet haben, und überprüfen Sie seinen Status auf dem Keys-Tab.
big-AGI befüllt Modelle von GET /v1/models. Stellen Sie sicher, dass Sie mindestens ein Deployment auf dem Models-Tab registriert haben und dass der Bereich Ihres Schlüssels dieses enthält. Stellen Sie sicher, dass der Host https://api.tokios.com/v1 ist.
Der Connector für dieses Deployment ist offline oder hat sein Konnektivitätslimit erreicht. Überprüfen Sie den Connectors-Tab – der Connector muss als Online angezeigt werden, und der Computer, auf dem er läuft, muss noch hoch und erreichbar sein.

​
Nächste Schritte

Kompatible Clients

Sehen Sie sich die Basis-URL- und Schlüsseleinstellungen für andere OpenAI- und Anthropic-kompatible Clients an.

API-Schlüssel

Erstellen, beschränken und rotieren Sie sk-tok-…-Schlüssel für Teammitglieder und Agenten.