
文章摘要
一个 2B 模型在 Artificial Analysis 智能指数上拿下 4B 以下开源模型第一——而且能在笔记本甚至手机上完全离线运行。OpenBMB 于 9 月 7 日发布 MiniCPM5-2B,Paul Couvert 的演示(X 上 532 赞)展示了它在 Hermes Agent 中完成多步智能体任务:浏览 Hugging Face、按标准评估模型、生成前 15 名的 CSV——全程离线。
MiniCPM5-2B:2B 参数打赢 4B 级,2GB 内存即可离线运行【2026年版】
一个 2B 模型在 Artificial Analysis 智能指数上拿下 4B 以下开源模型第一——而且能在笔记本甚至手机上完全离线运行。OpenBMB 于 9 月 7 日发布 MiniCPM5-2B,Paul Couvert 的演示(X 上 532 赞)展示了它在 Hermes Agent 中完成多步智能体任务:浏览 Hugging Face、按标准评估模型、生成前 15 名的 CSV——全程离线。
模型规格
| 规格 | 数值 |
|---|---|
| 参数量 | 2.52B 稠密(LlamaForCausalLM) |
| 上下文窗口 | 原生 131,072 token |
| Q4_K_M 体积 | 约 1.6GB |
| 内存需求 | 约 2GB(8K ctx) |
| 许可证 | Apache 2.0 |
标准 LlamaForCausalLM 架构,Ollama、LM Studio、llama.cpp、vLLM、SGLang、MLX 无需任何自定义代码即可加载。
性能数据
- Artificial Analysis 智能指数:23——4B 以下开源模型第一(第二名 Granite 4.2 3B 仅 11)
- 34 项基准平均:53.9,超过 4B 级的 Qwen3.5-4B(51.1)
- LiveCodeBench v6:69.1(Qwen3.5-4B 为 56.4);AIME 2026:86.5;BFCL v4 工具调用:66.6
- token 效率:每项任务约 19,000 输出 token,为对比集中最低
为什么 2B 能打赢 4B:Densing Law
清华大学与面壁智能的研究团队在 Nature Machine Intelligence 发表了"高密度定律":开源预训练模型的能力密度约每 3.5 个月翻倍——比摩尔定律快一个数量级。一年前需要多 92% 参数才能达到的性能,如今塞进零头里。MiniCPM5-2B 正是这条曲线落到消费级硬件上的成果。
训练流程:SFT → 强化学习(JustRL II)→ 在线策略蒸馏,官方报告推理类基准 +10.96 分、智能体类 +6.96 分。
开放的不只是权重
OpenBMB 公开了完整 UltraData 数据栈:预训练语料、代码数据、50 万条智能体 SFT 样本、8.6 万条 RL 样本。RL+OPD 的声明因此可以独立验证——这在"开源"发布中相当罕见。
坦率的短板
- 推理循环冗长:回答前会重复计算中间步骤——本地无所谓,按 token 计费则成本高
- 多语言习语会编造:独立测试中在低资源语言里生成了看似合理但不存在的词
- 自主编程仍弱:SWE-bench Pro 14.4、Terminal-Bench v2.1 8.6——单次代码生成很强,长程终端作业是 4B+ 的领域
- 输出啰嗦:思考过程有时渗入正文
怎么跑
ollama run openbmb/minicpm5-2b
一条命令,默认即 Q4_K_M(约 1.6GB)。Mac 上 LM Studio 的 MLX 运行时快约 60%。
结论
对于塞进 2GB 内存的完全离线智能体模型,MiniCPM5-2B 就是当下的标杆。它不会在自主软件工程或多语言细腻度上取代 4B+ 模型——但在受限硬件上的工具调用、代码生成、文档处理,同级别无可匹敌。
相关阅读:Ollama 本地 AI 指南 · Hermes Agent 指南
图片来源:Hugging Face(OpenBMB/MiniCPM5-2B)官方缩略图。
来源:X 帖子(@itsPaulAi) · OpenBMB
相关文章

2026年9月10日
Minimax-h3_Singularity:让开源视频生成 AI 更强的 HDR 微调版(2026年版)

2026年7月15日
Pi Coding Agent(pi.dev)是什么?从安装到使用方法(面向初学者彻底解说)【2026年版】

2026年9月1日
SentrySearch 是什么?用「一句话」搜索行车记录仪视频的开源工具|Gemini Embedding 2 实现语义视频搜索(2026年版)

2026年6月26日
【2026】MinerU 完全解读!把 PDF・Word・Excel 转换为 Markdown 的最强 OSS 工具

2026年7月14日
彻底解读帮初创公司找到「第一个客户」的神级工具!用 Codex 技能自动化获客(含日本市场定制)(2026年版)

2026年8月24日
【2026】FreeToken 是什么?在游戏 PC 上运行 290B+ 前沿 MoE 模型的边缘原生推理引擎详解