Tokiosを通じてローカルモデルと連携するコーディングエージェント

15 coding agents connect to local models through Tokios. All use standard OpenAI or Anthropic API format — you change 2 things: the base URL and your API key. Once your model is registered as a Tokios deployment, every agent below reaches it through the same endpoint.

前提条件: いずれかのエージェントを設定する前に、稼働中のローカルモデル、対応するTokiosコネクター、登録済みのデプロイ、そして sk-tok-… 形式のAPIキーが必要です。まだ準備が整っていない場合はクイックスタートをご参照ください。

エージェントの互換性情報一覧

エージェント名	種類	API形式	ツール呼び出し機能	設定手順
Claude Code	ターミナル	Anthropic	はい	/guides/claude-code
OpenAI Codex	ターミナル	OpenAI (Responses)	はい	/guides/openai-codex
Aider	ターミナル	OpenAI	はい	こちら
Cline	IDE	OpenAI	はい	こちら
Continue	IDE	OpenAI	はい	こちら
Roo Code	IDE	OpenAI	はい	/guides/roo-code
OpenCode	ターミナル	OpenAI	はい	/guides/opencode
Goose	IDE	OpenAI	はい	/guides/goose
Pi	ターミナル	OpenAI・Anthropic	はい	/guides/pi
Cursor	IDE	OpenAI	はい	/guides/cursor
Zed	IDE	OpenAI・Anthropic	不明	/guides/zed
JetBrains AI Assistant	IDE	OpenAI	不明	/guides/jetbrains-ai-assistant
VS Code Copilot	IDE	OpenAI	不明	/guides/vscode-copilot
omp（オーマイパイ）	ターミナル	OpenAI・Anthropic	不明	/guides/omp
Hermesエージェント	ターミナル	OpenAI	はい	/guides/hermes-agent

「ツール呼び出し」とは、エージェントがリクエスト内で tools を送信し、レスポンスから tool_calls を解析できることを指します。この仕組みがエンドツーエンドで機能するかどうかはエージェントとローカルモデルの両方に依存します。Qwen3-Coder-30B、Llama-3-70B、Mistralといったモデルはいずれも vLLM上でツール呼び出しを問題なく処理できます。

IDEベースのエージェント

こうしたエージェントはエディター内で動作し、ユーザーがコーディングする際に補完リクエストを送信します。特記がない限り、すべてOpenAI Chat Completions APIの形式を利用しています。

ClineおよびRoo Code

ClineとそのフォークであるRoo Codeはどちらも「OpenAI互換」プロバイダーを使用します。拡張機能の設定画面で 3 フィールドを次のように設定してください：

APIプロバイダー： OpenAI Compatible
ベースURL： https://api.tokios.com/v1
APIキー： ご自身の sk-tok-… キー
モデルID： デプロイ名を入力してください（例：qwen3-coder-tunnel）

両エージェントとも設定はすべてパネル上で行え、編集用の設定ファイルは存在しません。詳細なセットアップ手順は Cline および Roo Code のガイドをご参照ください。

続行

続行では ~/.continue/config.yaml と記載されています。モデルエントリを追加してください：

models:
  - name: Tokios
    provider: openai
    model: qwen3-coder-tunnel
    apiBase: https://api.tokios.com/v1
    apiKey: sk-tok-YOUR_KEY

See the Continue guide. Note that Continue supports both Chat Completions and Responses — use Chat Completions for local models.

Cursor

Cursorのカスタムモデル設定ではベースURLとAPIキーを指定できます。対応状況はCursorのバージョンによって異なりますので、実際に利用する前にカスタムベースURLのルーティングが機能するかご確認ください：

Open Cursor Settings → Models.
ベースURLに https://api.tokios.com/v1 を指定し、ご自身の sk-tok-… APIキーを使ってカスタムモデルを追加します。

バージョンごとの注意点については Cursorのガイドを参照してください。

Zed

Zedでは settings.json 内でOpenAI互換のカスタムプロバイダーを利用可能です：

{
  "language_models": {
    "openai_compatible": {
      "Tokios": {
        "api_url": "https://api.tokios.com/v1",
        "available_models": [
          { "name": "qwen3-coder-tunnel", "max_tokens": 128000 }
        ]
      }
    }
  }
}

The API key does not go in settings.json — enter it in Zed’s LLM provider UI, or export TOKIOS_API_KEY (Zed derives the variable name from the provider id). See the Zed guide.

JetBrains AI Assistant

JetBrains AI Assistantではプラグイン設定を通じてBYOK（自分で用意したキーを利用する機能）が利用可能だ。カスタムプロバイダーの欄にベースURLとAPIキーを入力してほしい。

ベースURL: https://api.tokios.com/v1
APIキー: ご自身の sk-tok-… というAPIキーだ

See the JetBrains AI Assistant guide.

VS Code Copilot

GitHub CopilotでもBYOK機能が順次実装されている。VS Code側でカスタムプロバイダーが利用可能になった際には以下の情報を指定してほしい。

ベースURL: https://api.tokios.com/v1
APIキー: ご自身の sk-tok-… というAPIキーだ

最新の互換性情報については VS Code Copilotのガイドを参照してほしい。

ターミナルエージェント

これらはシェル上で実行され、環境変数や設定ファイルを利用して接続を行う。

Claude Code

Claude CodeはOpenAIではなくAnthropicのAPIフォーマットを利用します。2環境変数を設定してください。

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-coder-tunnel

注意：AnthropicフォーマットではベースURLに/v1サフィックスは付きません。これらの設定をセッション間でも維持する方法については、Claude Codeのガイドをご覧ください。

OpenAI Codex

OpenAI CodexはResponses APIを使用します（wire_api=responses）。~/.codex/config.tomlにベースURLを設定してください。

[model_providers.tokios]
name = "Tokios"
base_url = "https://api.tokios.com/v1"
env_key = "OPENAI_API_KEY"
wire_api = "responses"

[profiles.tokios]
model = "qwen3-coder-tunnel"
model_provider = "tokios"
disable_response_storage = true

env_keyはAPIキーそのものではなくキーを格納する変数名であり、またTokiosがResponses機能をステートレスに提供するためdisable_response_storageも必須となります。設定後、次のコマンドを実行してください。

OPENAI_API_KEY=sk-tok-YOUR_KEY codex --profile tokios

See the OpenAI Codex guide.

Aider

Aiderは環境変数からベースURLとキーを読み取りますが、openai/モデルプレフィックスも必要となります。

export OPENAI_API_BASE=https://api.tokios.com/v1
export OPENAI_API_KEY=sk-tok-YOUR_KEY
aider --model openai/qwen3-coder-tunnel

See the Aider guide.

OpenCode

OpenCodeは内部でAI SDK（Vercel）を利用しています。opencode.jsonにカスタムプロバイダーを追加してください。

{
  "providers": {
    "tokios": {
      "type": "openai",
      "baseURL": "https://api.tokios.com/v1",
      "apiKey": "sk-tok-YOUR_KEY"
    }
  },
  "models": {
    "qwen3-coder": {
      "provider": "tokios",
      "model": "qwen3-coder-tunnel"
    }
  }
}

See the OpenCode guide.

Goose

Gooseに内蔵されているopenaiプロバイダーではカスタムホストの指定が可能です。Gooseはこれらの設定内容を~/.config/goose/config.yamlに保存します。

export GOOSE_PROVIDER=openai
export GOOSE_MODEL=qwen3-coder-tunnel
export OPENAI_HOST=https://api.tokios.com
export OPENAI_API_KEY=sk-tok-YOUR_KEY

名前付きプロバイダーを利用する場合は、~/.config/goose/custom_providers/にJSONファイルを配置してください。 See the Goose guide.

Piおよびomp

Piではapi: openai-completionsを利用してカスタムプロバイダーを使用します。omp（oh-my-pi）も同様の仕組みを採用しており、providersはプロバイダー名をキーとするマッピングデータで、キー名はキャメルケースとなっています。ompは~/.omp/agent/models.ymlを読み込み、Piは~/.pi/agent/models.jsonを読み込みます。

providers:
  tokios:
    baseUrl: https://api.tokios.com/v1
    api: openai-completions
    apiKey: sk-tok-YOUR_KEY
    models:
      - id: qwen3-coder-tunnel
        input: [text]

See the Pi and omp guides.

Hermes Agent

Hermes AgentはOpenAI互換の任意の/v1/chat/completionsエンドポイントに接続可能です。~/.hermes/config.yamlを読み込み、その中でプロバイダー名がmodel:配下に格納されます。

model:
  default: qwen3-coder-tunnel
  provider: custom
  base_url: https://api.tokios.com/v1
  api_key: sk-tok-YOUR_KEY

See the Hermes Agent guide.

汎用的なセットアップ手順

上記の各エージェントはすべて、同じ 3段階からなるパターンに従います。

ベースURLを設定する際は、https://api.tokios.com/v1（OpenAI用）または https://api.tokios.com（Anthropic用）を指定します。
APIキーを設定する際は、ご自身の sk-tok-… APIキーを入力します。
モデルを設定する際は、登録済みのデプロイ名を選択します。

ここに記載されていないエージェントでも、カスタムなOpenAI互換ベースURLをサポートしていればほぼ確実に利用可能です。汎用環境変数も試してみてください。

export OPENAI_BASE_URL=https://api.tokios.com/v1
export OPENAI_API_KEY=sk-tok-YOUR_KEY

各エンジンにおけるツール呼び出しの互換性

ツール呼び出し機能を利用するにはエージェント側とバックエンド側の両方で対応が必要です。以下がローカルエンジンごとの対応状況です。

エンジン	ツール呼び出し機能	備考
vLLM	対応可能	完全なOpenAIツール呼び出し形式であり、互換性も最も高い
Ollama	はい（バージョン 0.3 以降）	Via `/v1/chat/completions` with `tools` field
llama.cpp	部分的にのみ対応	`--chat-template`のツール形式を利用するが、モデルごとに異なる
LM Studio	はい	OpenAI互換のツール呼び出し形式
SGLang	はい	OpenAI互換性があり、vLLMの挙動と一致する

ツール呼び出しはエンジン単体ではなく モデル に依存する。モデル側で適切な構造の tool_calls を出力できるよう微調整またはプロンプト設計が必要だ。Qwen3-Coder-30B、Llama-3-70B-Instruct、Mistral-7B-Instructといったモデルはいずれもツール呼び出しを確実に実行できる。Muse Glimmer 30B はこの目的専用に訓練されており、厳密なスキーマに基づくツール呼び出しや複数ステップからなるワークフローにおけるエラー復旧機能も備えている。

コーディングエージェント向けの最適なローカルモデル

モデル	パラメータ数	最適な用途	エンジン推奨事項
Muse Glimmer 30B	29.6B タイプの高密度モデル	エージェント型コーディング、ツール呼び出し、わずか 24 GBのGPU容量	Ollamaやllama.cppにも対応
DeepSeek-V4-Flash-0731	284B ターゲット / 13B アクティブなMoE	フロンティアレベルのコーディングエージェント、ツール利用、大規模なリポジトリ対応	vLLMまたはSGLang（複数デバイス対応）
Qwen3-Coder-30B	30B ディンシィ	一般的なコーディングおよびツール呼び出し	llama.cpp（Vulkan）、vLLM
Qwen3-32B	32B ディンシィ	推論処理が多く必要なコーディングタスク	vLLM、Ollama
DeepSeek-R1	671B MoE	複雑な推論処理やアーキテクチャ対応	vLLM（2個以上のGPUが必要）
Mistral-7B-Instruct	7Bタイプの高密度モデル	高速な応答生成が可能でリソース消費も少ない	Ollamaやllama.cppも利用可能
Llama-3-70B-Instruct	70Bタイプの高密度モデル	ツール呼び出しや複数ファイルの編集にも対応	vLLM（マルチGPU対応）

For DGX Spark (128GB unified memory), Qwen3-Coder-30B at Q4_K_M is the sweet spot — it fits easily, generates fast, and handles tool calls well. For Strix Halo, use llama.cpp with Vulkan for the best token generation speed.

DeepSeek-V4-Flash-0731は現在、コーディングエージェント向けにDeepSeekが推奨するモデルです。公式のモデル情報によると、Terminal Bench 2.1やDeepSWE、Toolathlon-Verifiedといったベンチマークにおいてプレビュー版よりも大幅な性能向上が見られます。ただし複数デバイスを必要とするホスト環境が求められます。ローカルハードウェアガイドを確認した上で、実際に利用する予定のランタイム、reasoning_effort、コンテキスト長、サンプリング設定を用いてツール呼び出しの動作を検証してください。

Muse Glimmer 30Bは単一の24GB GPU上で完全に動作可能な選択肢です。Meta社がエージェントによるツール利用向けに訓練したモデルですが、ベンチマーク結果はベンダー側から提供されたものであり、まだ第三者による再現検証は行われていません。Meta社推奨のサンプリング設定（temperature 1.0、top_p 0.95、top_k 64）を使用してください。他のローカルモデル向けに調整された値を流用すると出力品質が低下する原因となります。

一つのエンドポイントで全モデルを利用可能です

エージェントを切り替える際にモデル設定を再調整する必要はありません。Tokiosに一度デプロイ情報を登録し、sk-tok-…キーを作成すれば、どのエージェントも同一エンドポイントを利用できます。2環境変数を変更するだけでAiderからClaude Codeへ切り替え可能です。この際モデル、コネクター、デプロイ設定は一切変更されません。

クイックスタート

コネクターを設定し、最初のデプロイ情報を登録します

対応クライアント一覧

The full matrix of 39 compatible clients, not just coding agents.

ローカルモデルを選択する

ご使用のハードウェアや用途に最適なモデルを選びましょう

APIキー管理

チームメンバーやエージェント向けにAPIキーを作成・権限付与・更新する方法です

ハードウェアと互換性

サービングとランタイム接続

クライアント接続

比較

Tokiosを通じてローカルモデルと連携するコーディングエージェント

エージェントの互換性情報一覧

IDEベースのエージェント

ClineおよびRoo Code

続行

Cursor

Zed

JetBrains AI Assistant

VS Code Copilot

ターミナルエージェント

Claude Code

OpenAI Codex

Aider

OpenCode

Goose

Piおよびomp

Hermes Agent

汎用的なセットアップ手順

各エンジンにおけるツール呼び出しの互換性

コーディングエージェント向けの最適なローカルモデル

一つのエンドポイントで全モデルを利用可能です

クイックスタート

対応クライアント一覧

ローカルモデルを選択する

APIキー管理

​エージェントの互換性情報一覧

​IDEベースのエージェント

​ClineおよびRoo Code

​続行

​Cursor

​Zed

​JetBrains AI Assistant

​VS Code Copilot

​ターミナルエージェント

​Claude Code

​OpenAI Codex

​Aider

​OpenCode

​Goose

​Piおよびomp

​Hermes Agent

​汎用的なセットアップ手順

​各エンジンにおけるツール呼び出しの互換性

​コーディングエージェント向けの最適なローカルモデル

​一つのエンドポイントで全モデルを利用可能です

クイックスタート

対応クライアント一覧

ローカルモデルを選択する

APIキー管理

エージェントの互換性情報一覧

IDEベースのエージェント

ClineおよびRoo Code

続行

Cursor

Zed

JetBrains AI Assistant

VS Code Copilot

ターミナルエージェント

Claude Code

OpenAI Codex

Aider

OpenCode

Goose

Piおよびomp

Hermes Agent

汎用的なセットアップ手順

各エンジンにおけるツール呼び出しの互換性

コーディングエージェント向けの最適なローカルモデル

一つのエンドポイントで全モデルを利用可能です