Tokiosを利用してローカルモデルとコーディングエージェントを連携させる

主要なコーディングエージェントはすべて、OpenAIまたはAnthropic互換のAPIを介してモデルバックエンドと通信します。このAPIの先をTokiosに向けることで、エージェントは自前のハードウェア上で稼働するローカルモデルと対話できるようになります。推論サーバーが稼働しているマシンだけでなく、どのマシンからでも利用可能です。1フィールドの値を変更するだけでモデルを切り替えられ、エージェントの設定内容は変わりません。

コーディングエージェントがバックエンドに接続する仕組み

コーディングエージェントはHTTP経由でチャット補完リクエスト（およびツール呼び出し情報）を送信します。エンドポイントURLやAPIキーは環境変数または設定ファイルから読み込まれます。Tokiosでは同一URL上にOpenAI互換およびAnthropic互換のインターフェースを両方提供しているため、ほとんどのエージェントは設定を一度変更するだけで利用可能です。

エージェント	API形式	主要な環境変数	ベースURL
Claude Code	Anthropic	`ANTHROPIC_API_KEY`	`ANTHROPIC_BASE_URL`
OpenCode	OpenAI	`options.apiKey`	`options.baseURL`
Aider	OpenAI	`OPENAI_API_KEY`	`OPENAI_API_BASE`
Cline	OpenAI	ダッシュボード内のAPIキー設定	カスタムエンドポイントの指定
処理を続行する	OpenAI	設定ファイル内のAPIキー記載	`apiBase`
Roo Code	OpenAI	UI上で設定するAPIキー	カスタムエンドポイント

前提条件

A running Tokios connector paired with your local model — see Connector install
A registered deployment name — see Register a model
A Tokios API key — see API keys

Claude Code

Claude CodeはAnthropic Messages APIを利用します。2環境変数を設定し、--modelパラメータとしてデプロイ名を渡してください

macOSおよびLinux
Windows CMD
Windows PowerShell

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-coder

set ANTHROPIC_BASE_URL=https://api.tokios.com
set ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-coder

$env:ANTHROPIC_BASE_URL = "https://api.tokios.com"
$env:ANTHROPIC_API_KEY = "sk-tok-YOUR_KEY"
claude --model qwen3-coder

Claude Codeに内蔵されているモデル選択機能では claude-* 形式のIDのみが表示されます。必ずご自身のTokiosデプロイ名と共に --model を明示的に指定してください。永続化やトラブルシューティングに関する詳細は、完全版の Claude Codeガイドをご参照ください。

OpenCode

OpenCodeはOpenAI互換のプロバイダーを利用するためのAI SDKを使用します。opencode.json にTokiosを追加するには以下の手順に従ってください。

opencode.json

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "tokios": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Tokios",
      "options": {
        "baseURL": "https://api.tokios.com/v1",
        "apiKey": "sk-tok-YOUR_KEY"
      },
      "models": {
        "qwen3-coder": {
          "name": "qwen3-coder"
        }
      }
    }
  }
}

options.baseURL には必ず /v1 を含める必要があります。OpenCodeはこのURLを基準にリクエストパスを解決するため、/v1 を省略すると 404 エラーが発生します。

詳細なセットアップ手順やトラブルシューティングについては、完全版の OpenCodeガイドをご覧ください。

Aider

Aiderは環境変数からOpenAI互換の設定情報を読み取ります。

export OPENAI_API_BASE=https://api.tokios.com/v1
export OPENAI_API_KEY=sk-tok-YOUR_KEY
aider --model openai/qwen3-coder

The openai/ prefix tells Aider to use the OpenAI chat completions format. Aider supports tool calling with most models that implement the OpenAI function-calling schema.

Cline

ClineではVS Codeの設定画面から独自のOpenAI互換エンドポイントへ接続可能です。

VS Code上でClineの設定画面を開きます。
Under API Configuration, select OpenAI Compatible.
Set Base URL to https://api.tokios.com/v1.
Paste your sk-tok-YOUR_KEY in the API Key field.
デプロイ名としてqwen3-coderのような名前をModel IDに入力してください。

Clineではツール呼び出し機能が頻繁に利用されます。ツール呼び出しに対応性の高いモデルを選択してください。詳細は下記のモデル推奨リストをご覧ください。

続行

Add Tokios as a custom provider in ~/.continue/config.json:

~/.continue/config.json

{
  "models": [
    {
      "title": "Tokios - Qwen3 Coder",
      "provider": "openai",
      "model": "qwen3-coder",
      "apiBase": "https://api.tokios.com/v1",
      "apiKey": "sk-tok-YOUR_KEY"
    }
  ]
}

続行機能ではこのプロバイダー設定を通じてチャット生成およびツール呼び出しの両方が利用可能です。

Roo Code

Roo CodeではOpenAI互換のエンドポイント形式が同様に採用されています：

Roo Codeの設定画面を開いてください。
APIプロバイダーとしてOpenAI Compatibleを選択してください。
Set Base URL to https://api.tokios.com/v1.
ご自身のAPIキーとデプロイ名を入力してください。

再設定なしでモデルを切り替えられる

各エージェントはモデル名をAPIリクエスト内の model パラメーターから読み取る仕組みとなっているため、Tokios上に複数のデプロイを登録しておけば、エージェントの設定を変更することなくモデルを自由に切り替えられます。

# Use Qwen3-Coder for code tasks
claude --model qwen3-coder

# Use GLM-4.5-Air for general reasoning
claude --model glm-4-chat

# Use Gemma for lightweight tasks
claude --model gemma-tunnel

エンドポイントやAPIキーは変わりません。Tokiosが各リクエストを適切なローカルバックエンドへ転送します。

コーディング向けモデルの推奨事項

すべてのローカルモデルがコーディングタスクを同様にこなせるわけではありません。関数の呼び出しやファイルの読み取り、コマンドの実行といったツール呼び出し機能は、エージェントベースのワークフローにとって極めて重要です。

モデル	総パラメータ数	最適な用途	ツール呼び出し機能	備考
Muse Glimmer 30B	29.6B	エージェント型コーディングおよびツール利用	良好	厳密なスキーマに基づいたツール呼び出しとエラー復旧機能を備えており、4ビット版はわずか 24 GBのGPUでも動作可能
Qwen3-Coder-30B	30B	コード生成およびリファクタリング	良好	ClineおよびAiderとの連携が確認済み
Qwen3-32B	32B	汎用用途およびコーディング向け	良好	多用途に適したモデルであり、DGX Spark上では 43トークン/秒の速度を実現
GLM-4.5-Air	106B MoE方式	複雑な推論処理	良好な性能	12B アクティブなパラメータ数；Spark環境においてコミュニティから高く評価されている
Qwen3.5-35B-A3B	35B MoE方式	迅速なコーディング対応	良好な性能	3B アクティブ状態；Spark環境下のAtlas利用時は120トークン/秒の速度を実現
Gemma-4-26B-A4B	26B MoE方式	軽量なタスク処理	中程度	4Bが有効状態。処理速度は速いが複雑な編集には向いていない

AMD製GPU上でvLLMを利用する場合、ツール呼び出し機能に問題が生じることが知られている。Strix Haloやその他のAMD製ハードウェアを使用する際は、ツール呼び出し機能がより安定して動作するようllama.cppのVulkanバックエンドを利用すべきだ。

ローカルモデルを使ったコーディングのためのヒント

ツール呼び出し機能をサポートするモデルを選ぶこと。 Claude CodeやOpenCode、Clineといったエージェントは構造化された関数呼び出しに依存している。もしご使用のモデルがOpenAIの関数呼び出しスキーマに対応していなければ、エージェントはテキストベースのツール呼び出しに切り替わるが、これは速度が遅く信頼性も低くなる。 コンテキスト長を適切に設定すること。 コーディングエージェントはファイル内容や対話履歴を含む大規模なプロンプトを送信する。推論サーバー上で--max-model-lenを少なくとも8192トークン以上に設定してほしい。32Kトークン以上のコンテキスト長を持つモデルは複数ファイルを扱うタスクにも適している。 スループット向上のためMoEモデルを選ぶこと。 Qwen3.5-35B-A3Bのようなミックスド・オブ・エキスパーツモデルは各トークン処理時にごく一部のパラメータのみを有効化するため、同等の規模を持つ通常のモデルよりも高いスループットを実現できる。レイテンシーが重要となる反復的なコーディング作業においては、MoEモデルがより適している場合が多い。 ツール呼び出し機能を本格利用する前にテストを行うこと。 モデルとバックエンドが正しく関数呼び出しを処理できるか確認するため、ツール呼び出し用のペイロードを使って簡易テストを実施してほしい。

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-coder",
    "messages": [{"role": "user", "content": "What is 2+2?"}],
    "tools": [{"type": "function", "function": {"name": "calculator", "parameters": {"type": "object", "properties": {"expression": {"type": "string"}}}}}]
  }'

応答内容にtool_calls配列が含まれていれば、ツール呼び出し機能は正常に動作していることになる。

すべてのエージェントで共通のエンドポイント

Tokiosを利用すれば、すべてのコーディングエージェントに同一のURLとAPIキーを提供できる。モデルを一度登録し1のAPIキーを生成すれば、任意の数のエージェントをhttps://api.tokios.com先に接続する設定が可能だ。モデルの切り替えや新規バックエンドの追加、ハードウェアの変更を行ってもエージェント側の設定は変更不要となる。

モデルルーティング

複数のモデルを登録し、デプロイ名に基づいてリクエストをルーティングする方法を学びましょう。

ローカルモデルを選択する

エージェント型ワークフローにモデルを採用する前に、各種バックエンドや量子化オプションを比較しておくことが重要です。

ハードウェアと互換性

サービングとランタイム接続

クライアント接続

比較

Tokiosを利用してローカルモデルとコーディングエージェントを連携させる

コーディングエージェントがバックエンドに接続する仕組み

前提条件

Claude Code

OpenCode

Aider

Cline

続行

Roo Code

再設定なしでモデルを切り替えられる

コーディング向けモデルの推奨事項

ローカルモデルを使ったコーディングのためのヒント

すべてのエージェントで共通のエンドポイント

モデルルーティング

ローカルモデルを選択する

​コーディングエージェントがバックエンドに接続する仕組み

​前提条件

​Claude Code

​OpenCode

​Aider

​Cline

​続行

​Roo Code

​再設定なしでモデルを切り替えられる

​コーディング向けモデルの推奨事項

​ローカルモデルを使ったコーディングのためのヒント

​すべてのエージェントで共通のエンドポイント

モデルルーティング

ローカルモデルを選択する

コーディングエージェントがバックエンドに接続する仕組み

前提条件

Claude Code

OpenCode

Aider

Cline

続行

Roo Code

再設定なしでモデルを切り替えられる

コーディング向けモデルの推奨事項

ローカルモデルを使ったコーディングのためのヒント

すべてのエージェントで共通のエンドポイント