Last verified: 2026-10-24
为什么 Flint 值得关注
Flint 专为智能体编码而构建——研究代码库、修复 bug、实现功能、编写测试。它支持多轮工具调用和结构化工具调用语法。2.5B 活跃参数意味着它可以在其他同性能级别模型无法运行的硬件上运行。 值得注意的是,Flint 主要由其自身的 AI 研究系统构建——这是自我改进 AI(autoresearch)的早期示范。规格
注意力架构
Flint 使用混合注意力模式:- 35 个滑动窗口层(窗口大小 513 tokens)用于高效的局部上下文
- 14 个全注意力层使用 RoPE 处理长距离依赖
硬件适配
所有 39.8B 参数必须常驻内存——2.5B 活跃参数减少的是每个 token 的计算量,而非内存占用。Unsloth 提供的 GGUF 尺寸:基准测试
在 ~5B 活跃参数以下的 MoE 模型中表现最佳。
运行方式
- Ollama(最简单)
- SGLang(推荐用于服务部署)
- vLLM
- llama.cpp / LM Studio
推荐生成设置
- Temperature:
1.0 - Top-p:
0.95 - Top-k:
20 - Min output tokens:
32,768
通过 Tokios 连接
一旦 Flint 通过上述任一后端在你的硬件上运行,配对 Tokios 连接器即可从 Claude Code、Cline 或任何兼容客户端通过https://api.tokios.com 访问它。
1
配对 Tokios 连接器
在 tokios.com/console 登录,打开 Setup 标签页,点击 Start pairing 获取一次性认领码(然后 approve 该设备,在 Setup 或 Connectors 标签页上操作。
TKS-XXXX-XXXX)。在托管 Flint 的机器上运行安装程序:Linux
2
注册部署
在 Models 标签页中,注册
flint 作为上游模型 ID,并选择一个公开部署名称。3
创建 API 密钥
在 Keys 标签页中,点击 Create key。复制
sk-tok-... 密钥——它仅显示一次。注意事项
- 所有 39.8B 参数常驻内存。 2.5B 活跃参数减少的是每个 token 的计算量,而非内存占用。请预留 25+ GB(Q4 下)。
- 知识截止日期为 June 2026。 Flint 不了解该日期之后的事件。
- Apache 2.0 许可非常宽松。 允许商业使用,无任何限制。
- 提供 NVFP4 变体。 NVIDIA 发布了面向 Blackwell GPU 的 FP4 量化版本。
- 由 AI 构建。 Flint 主要由 RecursiveSI 自己的 AI 研究系统创建。这是 autoresearch 的早期示范。
模型适配
计算哪种量化适配你的 GPU。
按任务选择模型
将 Flint 与其他编码模型进行比较。
RTX 50 系列指南
运行 Flint 的最佳消费级 GPU。
快速开始
将 Flint 连接到 Tokios 进行远程访问。