Last verified: 2026-10-14 — LM Studio v0.3.26 / Bionic 1.1.8.
Apple SiliconはMLXを使用する。 Apple Silicon搭載Macでは、LM Studioは自動的にllama.cppではなくAppleのMLXフレームワークを使用する。MLXはMシリーズチップで大幅に高速な推論を提供する（Apple SiliconとMLXの最適化を参照）。このガイドのほとんどの設定オプションは両方のバックエンドに適用される。動作が異なる場合は明示的に説明する。
コンテキストウィンドウのチューニング
コンテキストウィンドウは単一リクエストでモデルが処理できるトークン数を制御する — プロンプトと生成されるレスポンスの合計だ。モデルウェイト自体に次ぐメモリ使用量の最大のドライバーだ。LM Studioでコンテキストウィンドウを増やす方法
LM Studioのデフォルトは互換性のために2048トークンのコンテキストウィンドウだ。ほとんどの最新モデルは8K、32K、または128Kトークンをサポートするが、LM Studioはデフォルトでモデルの最大値を使用しない — メモリ使用量を抑えるために2048を使用する。 設定方法は3つある： UI内（モデルロードパネル）： モデルをロードすると、ロードパネルにContext Lengthスライダーが表示される。 desired値（例：8192、16384、32768）にドラッグしてからLoad Modelをクリックする。 モデルごと（永続デフォルト）： 特定のモデルのデフォルトコンテキスト長を設定し、ロードするたびに適用されるようにする。ライブラリでモデルに移動し、ギアアイコンをクリックし、Per-model DefaultsのContext Lengthを設定する。詳細はPer-model Defaultsを参照。 API経由（リクエストごと）：コンテキストウィンドウのメモリコスト
KVキャッシュはコンテキスト長に比例して増加する。計算式：Flash attention
Flash attentionはLM Studioが提供するほぼフリーのパフォーマンス向上だ。トークン間のアテンションの計算方法を見直す — 完全なアテンション行列をメモリに展開する代わりに、高速なSRAMに収まるタイル状のチャンクでアテンションを計算する。結果は以下の通りだ：- 30-50%低いメモリ使用量 — KVキャッシュの、ロングコンテキスト長で最大の効果がある。
- 高速な推論 — 特にGPU上で効果的であり、タイル計算がテンソルコアにうまくマッピングされる。
- 同じ出力品質 — flash attentionは標準アテンションと数学的に等価であり、近似ではない。
LM Studioでflash attentionを有効にする方法
UI内： モデルをロードすると、ロードパネルにFlash Attentionトグルが表示される。Load Modelをクリックする前に有効化する。 モデルごと（永続デフォルト）： 特定のモデルのデフォルトを設定し、ロードするたびに適用されるようにする。ライブラリでモデルに移動し、ギアアイコンをクリックし、Per-model DefaultsのFlash Attentionを有効化する。 API経由：MLXバックエンドを使用するApple Siliconでは、flash attentionはデフォルトで有効化されており、この設定は効果を持たない — MLXは常に最適化されたアテンションカーネルを使用する。
GPUオフロード戦略
LM StudioはモデルレイヤーをGPUに自動的にオフロードする。モデル全体がVRAMに収まる場合、すべてのレイヤーが最大速度でGPU上で実行される。VRAMが逼迫している場合、LM StudioはレイヤーをGPUとCPUに分割する — GPUが可能な限りを実行し、残りはシステムRAMにフォールバックする。LM StudioがGPUレイヤーを決定する方法
LM StudioのGPUスケジューリングは以下の順序で動作する：- フルオフロード — モデルウェイト + KVキャッシュがVRAMに収まる場合、すべてのレイヤーがGPUに送られる。これが最速の設定だ。
- パーシャルオフロード — モデル全体が収まらない場合、LM StudioはVRAMが許す限りのレイヤーをGPUに配置し、残りをCPUで実行する。CPU常駐レイヤーのために各フォワードパスがPCIeバスを渡る必要があるため、パフォーマンスが低下する。
- CPUのみ — GPUが利用できないか、VRAMが数レイヤーすら収めるには小さすぎる場合、モデル全体がCPU上で実行される。
GPUオフロードの制御
次のGPU Offload設定でGPUにオフロードするレイヤー数を制御する。UI、モデルごとのデフォルト、またはAPIで設定する： UI内： モデルをロードすると、ロードパネルにGPU Offloadスライダーが表示される。以下を設定できる：- Auto（デフォルト） — LM Studioが利用可能なVRAMを自動検出し、収まる限りのレイヤーをオフロードする。
- Max — すべてのレイヤーをGPUに強制する。モデルが収まることを確認している場合に使用する。
- Off — GPUオフロードを完全に無効化する（CPUのみの推論）。
- Manual — スライダーをドラッグして特定のレイヤー数を設定する。
VRAM見積もり
オフロードされた各レイヤーはウェイトとKVキャッシュの両方のためにVRAMを消費する。大まかな見積もり：
CUDAコンテキストとオーバーヘッドのために1-2 GBのVRAMヘッドルームを残すこと。
KVキャッシュ精度
KVキャッシュはすべてのアクティブなシーケンスの各トークンのキーテンソルとバリューテンソルを格納する。デフォルトでは、LM Studioはf16（16ビット浮動小数点）を使用する。量子化精度に切り替えることで、わずかな品質コストでメモリ使用量を削減できる。
ロードパネルまたはAPIでキャッシュタイプを設定する：
UI内：
モデルをロードすると、Advanced Settingsを展開してKV Cache Quantizationを探す。以下を設定できる：
- f16（デフォルト） — 全精度
- q8_0 — 8ビット量子化
- q4_0 — 4ビット量子化
バッチサイズチューニング
次のEval Batch Sizeパラメータはプリフィルフェーズ（プロンプト読み込み）でLM Studioが一度に処理するトークン数を制御する。デフォルトは512だ。 設定はロードパネルのAdvanced SettingsまたはAPI経由で行う：モデルメモリ管理
TTLによるモデルのロード状態保持
デフォルトでは、LM Studioは非アクティブ期間後にメモリからモデルをアンロードする。次のリクエストはディスクからモデルを再ロードする必要があり、モデルサイズとディスク速度に応じて数秒から数分かかる。 次のTTL (Time To Live) を設定してモデルのロード状態を制御する： UI内： モデルをロードすると、ロードパネルにTTLドロップダウンが表示される。以下を設定できる：- Until you close the app — モデルは無期限にロードされたままになる。
- Until you unload it — 手動でアンロードするまでモデルがロードされたままになる。
- Custom duration — 指定時間後にモデルがアンロードされる（例：5分、1時間）。
マルチモデルサービング
LM Studioは複数のモデルを同時にロードできる。追加のモデルをロードすると、LM Studioは十分なメモリがあるか確認する。ない場合、最も最近使用されていないモデルをアンロードして空きを作る。 ロードされたモデルを管理するには： UI内： 次のModelsパネルにすべてのロード済みモデルが表示される。モデルの横のアンロードボタンをクリックしてメモリを解放する。 CLI経由：ローカルサーバーの設定
LM StudioはOpenAI互換のAPIサーバーを公開する。デフォルトではhttp://localhost:1234でリッスンする。
サーバー設定
UI内： 次のServerタブに移動し、Server Settingsをクリックして設定する：- Host — バインドアドレス（デフォルト：
127.0.0.1）。ローカルネットワークでサービスするには0.0.0.0に変更する。 - Port — リッスンポート（デフォルト：
1234）。 - CORS — Webクライアントのクロスオリジンリクエストを有効化する。
- Require API Key — 認証にベアラートークンを要求する。
APIエンドポイント
LM Studioは以下のOpenAI互換エンドポイントをサポートする：
例：ロード済みモデルの一覧表示
サポートされるモデルフォーマット
LM Studioは2つの主要なモデルフォーマットをサポートする：GGUF（クロスプラットフォーム）
GGUFは最も広くサポートされているフォーマットだ。Windows、Linux、macOSで動作し、GPUの有無を問わない。GGUFモデルはファイルサイズを削減するために量子化される（例：Q4_K_M、Q5_K_M、Q8_0）。 GGUFを使用する場面：- クロスプラットフォームのポータビリティが必要な場合（Windows、Linux、Mac）。
- NVIDIA GPUとApple Siliconの両方で同じモデルを実行したい場合。
- 最も豊富な量子化オプションの選択を優先する場合。
MLX（Apple Silicon最適化）
MLXはAppleの機械学習フレームワークで、Mシリーズチップに最適化されている。Apple Siliconでは、LM Studioは自動的にMLXを使用して高速な推論を行う。 MLXを使用する場面：- Apple Silicon（M1、M2、M3、M4）を使用している場合。
- Macで最大のパフォーマンスを得たい場合。
- Apple以外のハードウェアで同じモデルを実行する必要がない場合。
Apple SiliconとMLXの最適化
Apple Silicon搭載Macでは、LM StudioはデフォルトでAppleのMLXフレームワークを使用する。MLXはAppleの統一メモリアーキテクチャに最適化されており、Mシリーズチップでllama.cppよりも大幅に高速な推論を提供する。パフォーマンス向上
コミュニティテストからのベンチマーク：
MLXはApple Siliconで高度な量子化もサポートし、ほぼBF16品質を4ビットメモリフットプリントで提供する — Q4量子化の半分の品質低下だ。
Apple Silicon最適化のヒント
- MLX最適化モデルを使用する。 Apple Siliconでモデルをダウンロードすると、LM Studioは自動的にMLXバックエンドを使用する。設定は不要。
- Flash attentionは常にオン。 MLXはデフォルトで最適化されたアテンションカーネルを使用する。Flash attentionの設定は効果を持たない。
- 統一メモリによりフルGPUオフロード。 Apple SiliconのGPUは全RAMプールにアクセスできるため、モデルとKVキャッシュが統一メモリに収まる限りフルGPUオフロードが機能する。
- Apple Siliconでは
q8_0KVキャッシュを使用してメモリ予算を最大化する。KVキャッシュを半減することで、より大きなモデルやより長いコンテキストを実行できる。 - 常時稼働の推論にはTTLを「Until you close the app」に設定する。 モデルは統一メモリに保持され、リロードペナルティなし。
クロスプラットフォームのポータビリティが必要か、NVIDIA GPUとMacで同じ設定を実行したい場合は、Apple Siliconでllama.cppバックエンドを使用するようLM Studioを強制できる。バックエンド選択をオーバーライドする設定については、LM Studioサポートに問い合わせるかドキュメントを確認してほしい。
設定例
Mac Studio M2 Ultra — 128 GB統一メモリ
UI設定：- GPU Offload: Max
- Context Length: 32768
- Flash Attention: Enabled (auto on MLX)
- KV Cache Quantization: q8_0
- TTL: Until you close the app
NVIDIA RTX 4090 — 24 GB VRAM
UI設定：- GPU Offload: Max
- Context Length: 16384
- Flash Attention: Enabled
- KV Cache Quantization: q8_0
- Eval Batch Size: 1024
- TTL: Until you close the app
マルチGPUサーバー — 2× RTX 4090（合計48 GB VRAM）
UI設定：- GPU Offload: Max
- Context Length: 32768
- Flash Attention: Enabled
- KV Cache Quantization: q8_0
- Eval Batch Size: 2048
- TTL: Until you close the app
CPU専用サーバー — 64 GB RAM、GPUなし
UI設定：- GPU Offload: Off
- Context Length: 8192
- Flash Attention: Disabled
- KV Cache Quantization: q8_0
- Eval Batch Size: 512
- TTL: Until you close the app
よくある間違いと回避方法
間違い1：コンテキスト長を高く設定しすぎる
問題： 「念のため」コンテキスト長を128Kに設定したが、プロンプトは2Kトークン未満。64 GBのKVキャッシュメモリを無駄にした。 修正： 実際のワークロードに合わせてコンテキスト長を設定すること。プロンプトが4Kトークン未満なら、4096または8192を使用する。後でAPIを通じて特定のリクエスト用に増やすことができる。間違い2：flash attentionを忘れる
問題： flash attentionが有効になっていないため、必要より30-50%多いVRAMを使用している。 修正： 常にflash attentionを有効にすること。サポートされたハードウェアでデメリットはない。間違い3：モデルのアンロードを制御しない
問題： 10分の休憩後にリクエストを再開すると、LM Studioがディスクからモデルを再ロードしたため最初のリクエストに30秒かかる。 修正： TTLをUntil you close the appまたは-1に設定して常時稼働の推論を実現すること。モデルがメモリに保持され、すべてのリクエストが即座に応答する。
間違い4：KVキャッシュ精度を無視する
問題： VRAMが不足しLM StudioがレイヤーをCPUにオフロードしているが、KVキャッシュが必要の2倍のメモリを使用していることを考慮していない。 修正： KVキャッシュ量子化をq8_0に設定してKVキャッシュメモリを半減すること。品質とメモリ節約の最適なバランスだ。
間違い5：収まらないモデルでGPUオフロードを使用する
問題： GPUオフロードをMaxに設定したが、モデルがVRAMに収まらない。LM Studioがメモリ不足になるかクラッシュする。 修正： GPUオフロードをAutoに設定してLM Studioに決定させること。手動で設定する必要がある場合は、低い値から始めて制限に達するまで増加させる。トラブルシューティング
起動後にLM Studioが遅い
原因： モデルがアンロードされており、ディスクから再ロードする必要があった。 修正： TTLをUntil you close the appまたは-1に設定してモデルを無期限にロード状態に保つこと。
メモリ不足エラー
原因： モデル + KVキャッシュが利用可能なVRAMまたはRAMを超えている。 修正： コンテキスト長を減らす、flash attentionを有効化する、KVキャッシュ量子化をq8_0に設定する、または小さい量子化を使用すること。
GPUが使用されていない
原因： LM StudioがGPUを検出しなかったか、VRAMが数レイヤーすら収めるには小さすぎる。 修正： ロードパネルでレイヤーがGPU上にあるか確認すること。NVIDIA GPUの場合、NVIDIAドライバーとCUDAツールキットがインストールされていることを確認すること。AMD GPUの場合、ROCmがインストールされていることを確認すること。遅いCPU推論
原因： レイヤーがGPUとCPUに分割されている、またはGPUオフロードなし。 修正： 可能であれば、より多くのレイヤーをGPUにオフロードすること。小さい量子化（Q4_K_MまたはQ5_K_M）を使用してより多くのレイヤーをGPUに収めること。モデルのロードに失敗する
原因： モデル + KVキャッシュに十分なメモリがない。 修正： コンテキスト長を減らす、GPUオフロードを減らす、または小さい量子化を使用すること。モデルがハードウェアに対して大きすぎる場合は、より小さいモデルをダウンロードすること。次のステップ
LM Studio remote access
Expose your LM Studio model to teammates and agents through Tokios — without opening ports or serving on the local network.
Hardware reference
Compare hardware platforms for local LLM inference — specs, model capacity, and recommendations.
Model fit finder
Find which models run on your hardware, or which hardware can run your target model.
Test your deployment
Measure latency and throughput after tuning to confirm the improvement.
FAQ
最適なGPUオフロード設定は？
ほとんどの場合、Autoを使用すること。LM Studioが利用可能なVRAMを検出し、収まる限りのレイヤーをオフロードする。フルモデルがVRAMに収まることを確認している場合のみMaxに設定する。CPUのみの推論にはOffに設定する。コンテキストウィンドウを増やすには？
ロードパネルでContext Lengthスライダーを desired値（例：8192、16384、32768）にドラッグする。モデルの設定でモデルごとのデフォルトを設定するか、APIリクエストでcontext_lengthを渡すこともできる。
LM Studioはflash attentionをサポートしているか？
はい。ロードパネルまたはモデルごとのデフォルトで有効化する。Flash attentionはKVキャッシュメモリを30-50%削減し、推論を高速化する。MLXを使用するApple Siliconでは、flash attentionは常にオン。モデルをロード状態に保つには？
次のTTLをUntil you close the appに設定するか、APIで-1を設定する。モデルがメモリに保持され、すべてのリクエストがリロードペナルティなしで即座に応答する。
複数のモデルを同時に実行できるか？
はい。LM Studioは複数のモデルを同時にロードできる。メモリが逼迫している場合、最も最近使用されていないモデルをアンロードして空きを作る。lms statusでロード済みモデルを確認し、lms unloadでメモリを解放する。
どのモデルフォーマットを使用すべきか？
クロスプラットフォームの互換性にはGGUFを使用すること（Windows、Linux、Mac）。Apple Siliconでは、LM Studioがより高速な推論のために自動的にMLXを使用する。手動で選択する必要はない。LM Studioをローカルネットワークでサーブするには？
ServerタブでServer Settingsをクリックし、Hostを0.0.0.0に変更する。LM Studioがローカルネットワークに公開される。インターネット経由のリモートアクセスにはTokiosを代わりに使用すること。
最適なKVキャッシュ量子化は？
品質とメモリ節約の最適なバランスにはq8_0を使用すること。KVキャッシュメモリを半減し、ほぼ品質低下なし。メモリが非常に逼迫しており、ある程度の品質低下を受け入れる場合にのみq4_0を使用する。ソース
- LM Studio documentation — official documentation on configuration and API
- LM Studio per-model defaults — setting persistent configuration per model
- LM Studio CLI reference — CLI commands for loading, unloading, and server management
- LM Studio OpenAI compatibility — API endpoints and client integration
- LM Studio changelog — release notes and new features
- GGUF vs MLX on Apple Silicon — performance comparison and format selection
- LM Studio GPU offload guide — GPU offload and context size configuration
LM Studioの設定を変更した後、Tokiosデプロイメントを再登録してコネクターが新しいアップストリームエンドポイントを取得するようにすること。Register Modelを参照。