> ## Documentation Index
> Fetch the complete documentation index at: https://docs.tokios.com/llms.txt
> Use this file to discover all available pages before exploring further.

> ## Agent Instructions
> Tokios exposes private local models through https://api.tokios.com using an outbound-only connector tunnel.
> Use 'connector' for the local tokios-connector process.
> Use 'deployment' for the public model name in the API model field.
> Use 'upstream model id' for the model served by Ollama, llama.cpp, vLLM, LM Studio, or another local backend.
> API keys use the prefix sk-tok-. Connector tokens use the prefix ct-tok-.

# CMP 170HX 解锁指南：64 GB HBM2e，$250-800

> 将 NVIDIA CMP 170HX 矿卡从 8 GB 解锁至 64 GB HBM2e。Vix Loader 方法（无需刷写）、性能基准测试及搭建要求。

NVIDIA CMP 170HX 是一张基于 Ampere GA100 的矿卡，出厂时被人为限制为 8 GB VRAM。完整的 64 GB HBM2e 可以被解锁，为你提供 732-1,100 GB/s 带宽和 74 个 SM，价格仅 \$250-800 —— 这是本地 LLM 推理中最具性价比的方案。

> [!WARNING]
>
> **非官方路径：** 本指南记录的是一种社区发现的解锁方法。NVIDIA 可能在未来驱动中封堵此方法。该卡没有显示输出，采用被动散热（需要定向气流），且此用途不在保修范围内。仅在你接受风险并乐于折腾的前提下继续。

> [!NOTE]
>
> 最后验证：2026-10-21。驱动版本和解锁方法可能已变更。请查看 [Panchovix Vix Loader 仓库](https://github.com/Panchovix/nvidia-windows-vbios-vix-loader) 和 [PixelML club-170hx 社区](https://github.com/PixelML/club-170hx) 获取最新信息。

## 什么是 CMP 170HX？

CMP 170HX 是 NVIDIA 的加密货币挖矿处理器，基于 Ampere GA100 GPU —— 与 A100 数据中心卡相同的架构。NVIDIA 人为将该卡限制为 8 GB VRAM 并禁用了显示输出，以符合出口管制并划分市场。

**硬件规格（解锁前）：**

* GPU：Ampere GA100（74 个 SM）
* 显存：8 GB HBM2e（人为限制）
* 带宽：\~732 GB/s（受限于被限制的显存）
* TDP：250W
* 接口：PCIe 4.0 x16
* 显示输出：无
* 散热：被动式（需要服务器机箱或定制风扇）

**解锁后：**

* 显存：64 GB HBM2e（完整容量）
* 带宽：732-1,100 GB/s（因工作负载而异）
* 全部 74 个 SM 激活
* 完整 CUDA 支持

> [!TIP]
>
> **HBM2e 为何重要：** 高带宽显存（HBM2e）与 A100 和 H100 数据中心卡使用的技术相同。它提供 2-3x GDDR6X 带宽，功耗更低。对于 LLM 推理，显存带宽是瓶颈 —— HBM2e 让你以矿卡价格获得数据中心级性能。

## 解锁方法

有 2 种主要解锁方法：

1. **Vix Loader（Windows，推荐）**：通过注册表键值实现无刷写解锁。完全可逆。
2. **Linux 内核补丁**：适用于服务器部署。需要 Proxmox VE 或裸机 Linux。

### 方法 1：Vix Loader（Windows，无需刷写）

Vix Loader 方法通过 Windows 注册表键值加载修改后的 VBIOS，无需永久刷写显卡。它完全可逆，是最安全的选择。

**前提条件：**

* Windows 10/11（64 位）
* NVIDIA 驱动 616.56 或更高版本
* CMP 170HX 显卡
* 管理员权限

**步骤：**

1. **安装 NVIDIA 驱动 616.56 或更高版本**

   从 [NVIDIA 驱动下载页面](https://www.nvidia.com/Download/index.aspx) 下载。不要使用 DDU（Display Driver Uninstaller）—— 解锁依赖特定的驱动状态。

2. **下载 Vix Loader**

   从 [Panchovix/nvidia-windows-vbios-vix-loader](https://github.com/Panchovix/nvidia-windows-vbios-vix-loader) 克隆或下载。

3. **运行 Vix Loader 脚本**

   以管理员身份打开 PowerShell 并运行：

   ```powershell theme={"theme":{"light":"github-light","dark":"css-variables"}}
   .\vix-loader.ps1
   ```

   该脚本修改注册表键值，在启动时加载修改后的 VBIOS。它不会刷写显卡。

4. **重启**

   重启后，显卡将报告 64 GB HBM2e。验证方式：

   ```powershell theme={"theme":{"light":"github-light","dark":"css-variables"}}
   nvidia-smi
   ```

   你应该看到：

   ```
   +-----------------------------------------------------------------------------+
   | NVIDIA-SMI 560.xx       Driver Version: 560.xx       CUDA Version: 12.6     |
   |-------------------------------+----------------------+----------------------+
   | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   |===============================+======================+======================|
   |   0  CMP 170HX           Off  | 00000000:01:00.0 Off |                    0 |
   | N/A   45C    P0    50W / 250W |      0MiB / 65536MiB |      0%      Default |
   +-------------------------------+----------------------+----------------------+
   ```

5. **验证解锁**

   运行 CUDA 示例或推理工作负载以确认完整的 64 GB 可用：

   ```powershell theme={"theme":{"light":"github-light","dark":"css-variables"}}
   python -c "import torch; print(torch.cuda.get_device_properties(0).total_memory / 1e9, 'GB')"
   ```

   应输出：`64.xxxxx GB`

**可逆性：**

要恢复到出厂 8 GB 模式，运行：

```powershell theme={"theme":{"light":"github-light","dark":"css-variables"}}
.\vix-loader.ps1 --revert
```

然后重启。显卡将恢复到出厂 8 GB 配置。

### 方法 2：Linux 内核补丁（服务器）

对于无头服务器部署，Linux 方法通过修补 NVIDIA 内核模块来暴露完整的 64 GB。这比 Vix Loader 更持久，但需要更多配置。

**前提条件：**

* Linux（推荐 Ubuntu 22.04 或 24.04）
* NVIDIA 驱动 550.xx 或更高版本
* 内核头文件和构建工具
* CMP 170HX 显卡

**步骤：**

1. **安装前置依赖**

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   sudo apt update
   sudo apt install build-essential linux-headers-$(uname -r) git
   ```

2. **安装 NVIDIA 驱动**

   从 [NVIDIA Linux 驱动页面](https://www.nvidia.com/en-us/drivers/unix/) 下载并安装最新驱动。不要使用 Ubuntu 仓库中的 `nvidia-driver-xxx` 包 —— 你需要 runfile 安装程序。

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   wget https://us.download.nvidia.com/XFree86/Linux-x86_64/560.xx/NVIDIA-Linux-x86_64-560.xx.run
   sudo sh NVIDIA-Linux-x86_64-560.xx.run
   ```

3. **克隆解锁仓库**

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   git clone https://github.com/PixelML/club-170hx.git
   cd club-170hx
   ```

4. **应用内核模块补丁**

   社区维护了针对特定驱动版本的补丁。查看仓库获取匹配你驱动的最新补丁：

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   ls patches/
   # Output: 550.120.patch 550.144.patch 560.28.patch ...
   ```

   应用补丁：

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   sudo ./apply-patch.sh 560.28
   ```

   这将修补 NVIDIA 内核模块以暴露完整的 64 GB。

5. **重启并验证**

   ```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
   sudo reboot
   nvidia-smi
   ```

   应显示 65536 MiB（64 GB）。

**社区配置方案：**

经过测试的配置方案由 [PixelML club-170hx 仓库](https://github.com/PixelML/club-170hx) 维护，包括：

* 单卡配置
* 单工作站 4x CMP 170HX
* 矿机机箱 8x CMP 170HX
* Proxmox VE 直通

查看 `recipes/` 目录获取每种配置的分步指南。

## 性能基准测试

社区基准测试表明，解锁后的 CMP 170HX 以矿卡价格提供数据中心级性能。

### 单卡性能

| 模型 | 量化 | 显存占用 | tok/s | 备注 |
| - | - | - | - | - |
| Llama 3.1 8B | Q4\_K\_M | 4.5 GB | \~60 | 入门级基准 |
| Qwen3 14B | Q4\_K\_M | 8.5 GB | \~55 | 中等规模稠密模型 |
| Qwen3.6-35B-A3B | Q4\_K\_M | 20 GB | \~70 | 35B MoE，3B 活跃参数 |
| Qwen3 70B | Q4\_K\_M | 40 GB | \~45 | 剩余 24 GB 余量 |
| Qwen3 70B | Q8 | 70 GB | \~35 | 更高质量，紧凑配置 |
| GLM-4.5-Air | Q4\_K\_M | 53 GB | \~40 | 106B MoE，12B 活跃参数 |

> [!TIP]
>
> **HBM2e 带宽优势：** 732-1,100 GB/s 带宽使 CMP 170HX 与 A100（1,555 GB/s）同级别，并快于 RTX 4090（1,008 GB/s）。对于显存带宽受限的工作负载（大批量、长上下文），CMP 170HX 尽管原始算力较低，但仍优于消费级显卡。

### 多卡性能

CMP 170HX 的真正实力在于多卡配置。PCIe 4.0 x16（每方向 64 GB/s）是瓶颈，而非显卡本身。

| 配置 | 总显存 | 模型 | tok/s | 备注 |
| - | - | - | - | - |
| 4x CMP 170HX | 256 GB | GLM-5.3-Flash | 816（总计） | 社区报告，每卡 204 tok/s |
| 4x CMP 170HX | 256 GB | DeepSeek V4-Flash-0731 | \~120-150（估计） | 混合 FP8+MXFP4，需验证 |
| 8x CMP 170HX | 512 GB | GLM-5.2 | \~30 | 753B 参数 4-bit，紧凑配置 |
| 8x CMP 170HX | 512 GB | Qwen3.5-397B | \~45-60（估计） | 397B MoE Q4，需验证 |

> [!WARNING]
>
> **PCIe 瓶颈：** 单工作站 4x CMP 170HX 会饱和 PCIe 带宽。通过 PCIe 的张量并行比 NVLink 慢 10-20%。要获得最大吞吐量，使用 2x 卡配合 NVLink（如支持），或接受 PCIe 开销。

### 与其他硬件的对比

| 硬件 | 显存 | 带宽 | 价格 | 70B Q4 tok/s | \$/GB |
| - | - | - | - | - | - |
| CMP 170HX（解锁） | 64 GB HBM2e | 732-1,100 GB/s | \$250-800 | \~45 | \$4-12 |
| Tesla V100（二手） | 32 GB HBM2 | 900 GB/s | \$400-600 | \~70 | \$12-19 |
| Tesla P40（二手） | 24 GB GDDR5X | 346 GB/s | \$150-250 | \~35 | \$6-10 |
| RTX 3090（二手） | 24 GB GDDR6X | 936 GB/s | \$700-900 | \~118 | \$29-38 |
| RTX 4090 | 24 GB GDDR6X | 1,008 GB/s | \$1,600-2,000 | \~120 | \$67-83 |
| RTX 5090 | 32 GB GDDR7 | 1,792 GB/s | \$1,999 | \~162 | \$62 |
| RTX PRO 6000 | 96 GB GDDR7 | 1,792 GB/s | \$16,000 | \~140 | \$167 |

> [!TIP]
>
> **CMP 170HX 每 GB 成本比消费级显卡低 5-10x。** 以 \$4-12/GB 的价格，它是获得 64+ GB 显存最具性价比的路径。代价是没有显示输出、被动散热，以及非官方的解锁路径。

## 搭建要求

运行解锁后的 CMP 170HX 需要注意散热、供电和机箱选择。

### 散热

CMP 170HX 采用被动散热 —— 卡上没有风扇。它依赖机箱气流。

**工作站单卡：**

* 加装定制风扇罩（3D 打印或亚克力）以引导气流通过散热片
* 使用 92mm 或 120mm 风扇安装在显卡散热片上
* 目标：20-30 CFM 气流经过显卡

**多卡（4x 或 8x）：**

* 使用带集成风扇的矿机机箱
* 或使用 4U 服务器机箱配高 CFM 风扇（如 Norco RPC-4224）
* 目标：每卡 50+ CFM，保持进风/排风平衡

> [!WARNING]
>
> **温度降频：** 散热不足时，CMP 170HX 在 85°C 会降频。社区报告显示，适当气流下温度为 60-75°C。使用 `nvidia-smi -q -d TEMPERATURE` 监控温度，必要时调整风扇转速。

### 供电

每张 CMP 170HX 在负载下最高消耗 250W。

**单卡：**

* 1x 8-pin PCIe 电源接口（或使用转接线的 12VHPWR）
* 建议 750W+ 电源（为 CPU、存储、风扇留余量）

**4x 显卡：**

* 4x 8-pin PCIe 电源接口（或 12VHPWR）
* 建议 1,600W+ 电源（4x 250W = 1,000W + 余量）
* 使用多路 12V 电源或服务器电源配 breakout board

**8x 显卡：**

* 8x 8-pin PCIe 电源接口
* 2,500W+ 电源（或双电源）
* 带集成电力分配的矿机机箱

### 机箱

**单卡：**

* 标准 ATX 工作站机箱即可
* 确保充足气流（前部进风，后部排风）
* 加装定制风扇罩引导散热

**4x 显卡：**

* 4U 服务器机箱（如 Rosewill RSV-L4411U、Norco RPC-4224）
* 或有 4x 全长 PCIe 插槽的工作站机箱（如 Fractal Design Define 7 XL）
* 检查 PCIe 插槽间距 —— 部分主板的插槽间距太窄，不适合涡轮式散热器

**8x 显卡：**

* 矿机机箱（如 Antminer S9 或开放式矿机架）
* 或带 PCIe 转接卡的机架式服务器
* 主板需支持 PCIe 拆分（x16 → 2x x8 或 4x x4）

### 软件栈

**推荐操作系统：**

* Linux（Ubuntu 22.04 或 24.04）用于生产服务
* Windows 10/11 用于 Vix Loader 解锁方法
* Proxmox VE 用于虚拟化多卡配置

**推理后端：**

* **vLLM**：生产级，并发批处理，最适合 API 服务
* **SGLang**：高吞吐，RadixAttention 前缀缓存
* **llama.cpp**：CPU+GPU 卸载，GGUF 量化，灵活
* **Ollama**：最简配置，单用户，适合实验

**多卡服务：**

* 使用张量并行（TP=4 或 TP=8）将模型分配到多卡
* vLLM 和 SGLang 原生支持张量并行
* PCIe 带宽是瓶颈 —— 相比 NVLink 有 10-20% 开销

## 常见问题与故障排除

### 问题：解锁后显卡仍显示 8 GB

**原因：** Vix Loader 脚本未正确应用，或驱动版本不匹配。

**解决方法：**

1. 验证驱动版本：`nvidia-smi` 应显示 616.56 或更高版本
2. 以管理员权限重新运行 Vix Loader 脚本
3. 检查 Windows 事件查看器中的错误
4. 尝试不同驱动版本（560.xx 系列经过充分测试）

### 问题：负载下温度降频

**原因：** 显卡气流不足。

**解决方法：**

1. 在显卡散热片上直接加装 92mm 风扇
2. 提高机箱进风风扇转速
3. 降低功耗限制：`nvidia-smi -pl 200`（将 TDP 从 250W 降至 200W）
4. 对显卡降压（高级）：使用 `nvidia-smi --set-gpu-voltage-offset` 降低电压

### 问题：多卡配置中 PCIe 带宽瓶颈

**原因：** 4x 或 8x 显卡饱和了 PCIe 带宽。

**解决方法：**

1. 减少显卡数量（2x 代替 4x）以获得更好的单卡吞吐
2. 升级到支持 PCIe 5.0 的工作站/服务器主板（2x 带宽）
3. 接受 10-20% 的开销 —— 仍然比 NVLink 方案便宜
4. 使用流水线并行代替张量并行（减少 GPU 间通信）

### 问题：大模型显存溢出（OOM）

**原因：** 模型 + KV 缓存超过 64 GB。

**解决方法：**

1. 使用更低量化（Q4 代替 Q8）
2. 减小 `--max-model-len` 以限制 KV 缓存大小
3. 使用 `--gpu-memory-utilization 0.90` 预留 10% 作为余量
4. 将层卸载到 CPU：使用 `--cpu-offload`（llama.cpp）

### 问题：NVIDIA 在未来驱动中封堵解锁

**原因：** NVIDIA 发布驱动更新，阻止了 Vix Loader 或内核补丁。

**解决方法：**

1. **不要更新驱动**，直到社区确认解锁仍然有效
2. 锁定驱动版本：`sudo apt-mark hold nvidia-driver-xxx`
3. 如果已经更新，查看 [Panchovix 仓库](https://github.com/Panchovix/nvidia-windows-vbios-vix-loader) 或 [PixelML club-170hx](https://github.com/PixelML/club-170hx) 获取新补丁
4. 作为最后手段，恢复到出厂 8 GB 模式（Vix Loader `--revert`）

> [!WARNING]
>
> **驱动更新是最大风险。** NVIDIA 尚未公开承认此解锁方法，但他们可能在未来驱动中封堵。请锁定驱动版本并关注社区仓库的更新。不要在生产环境的 CMP 170HX 系统上自动更新驱动。

## CMP 170HX 适合你吗？

**选择 CMP 170HX，如果你：**

* 需要 64+ GB 显存且预算有限（\$250-800）
* 乐于折腾并接受非官方路径
* 熟悉 Linux 或 Windows 命令行配置
* 需要 HBM2e 带宽应对显存带宽受限的工作负载
* 正在搭建多卡推理服务器

**避免 CMP 170HX，如果你：**

* 需要显示输出（改用 RTX 3090/4090）
* 想要即插即用的体验（改用 RTX 5090 或 Mac Studio）
* 需要保修支持和专业驱动（改用 RTX PRO 6000）
* 无法接受 NVIDIA 封堵解锁的风险
* 需要低功耗（每卡 250W 对小模型来说效率不高）

## 后续步骤

> **[硬件参考](https://docs.tokios.com/zh/guides/hardware-reference.md)**
>
> 将 CMP 170HX 与消费级 GPU、RTX PRO 和统一内存平台进行对比。

> **[RTX PRO Blackwell 变体](https://docs.tokios.com/zh/guides/rtx-pro-blackwell-variants.md)**
>
> 专业替代方案：RTX PRO 4000/4500/5000/6000，带保修支持。

> **[模型分片](https://docs.tokios.com/zh/guides/model-sharding.md)**
>
> 配置多张 CMP 170HX 的张量并行。

> **[vLLM 远程访问](https://docs.tokios.com/zh/guides/vllm-remote-access.md)**
>
> 通过 Tokios 从你的 CMP 170HX 矿机提供模型服务。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.