端侧大模型的“以小博大”又出现新标杆。9 月 8 日,北京端侧大模型独角兽面壁智能联合 OpenBMB 开源社区,正式开源新一代端侧语言基座模型 MiniCPM5 2B。这款模型参数规模仅 2B,却支持工具调用、深度搜索、代码生成等任务,并在发布当日完成英特尔、瑞芯微、Arm 等芯片平台的首日适配。

评测数据最能说明其“小钢炮”属性。在评测机构 Artificial Analysis 的榜单上,MiniCPM5 2B 以 23 分的综合能力得分位列全球 4B 以下开源模型第一,智能密度高于 Qwen3.5 9B,也高于参数规模约为其六倍的谷歌 Gemma 4 12B。智能体指标 Agentic Index 上,MiniCPM5 2B 拿下 20 分,而同级别模型普遍低于 10 分。面壁智能认为,这标志着 2B 参数规模初步展现出通用智能体能力雏形,随着端侧智能体能力持续提升,办公与生活场景的使用成本有望进一步下降。

推理效率方面同样亮眼:以 1000 分为人类基线,MiniCPM5 2B 在真实任务评测中获得 891 分,远高于 Gemma 4 12B 的 647 分,更接近人类水平。在面壁智能公布的 34 项基准评测中,MiniCPM5 2B 以平均 53.9 分排名第一,覆盖代码推理、数学推理、指令遵循、综合知识、长文本、工具调用和智能体任务等方向,甚至超过 Qwen3.5 4B 等参数更大的模型。

更难得的是,这次开源是“全家桶”式的:除模型权重外,面壁智能还开源了自研强化学习框架 Meshy、基于奖励的强化学习策略 JustRL II,以及完整训练配方与配套数据集。Meshy 取消了中央控制器和 Ray 依赖,将训练、推理、奖励计算组织为对等服务,通过 TransferQueue 的数据就绪状态驱动流程,支持同步、异步与全异步三种训练模式切换;JustRL II 则通过三阶段流水线筛选校准数据,并为 GRPO 算法引入 Critic,实现词元级信用分配,解决了长思维链强化学习中的数据质量与信用分配难题。

生态适配方面,MiniCPM5 2B 已接入主流开发工具链:训练微调支持 LlamaFactory 等工具,推理部署兼容 SGLang、vLLM、llama.cpp、Ollama、Hugging Face Transformers 等主流框架,并兼容面壁自研的 Arclight CPU 推理框架。硬件侧,英特尔平台依托酷睿 Ultra 系列的 CPU、GPU、NPU 异构资源与 OpenVINO 工具套件完成优化,支持在 AI PC 本地部署;瑞芯微平台可基于 RK3588 与 RK1828 双芯平台运行,通过 RKNN3 工具链完成量化与算子优化;Arm 平台则适配了启用第二代可伸缩矩阵扩展技术 SME2 的 Armv9 移动设备,优化后预填充与解码阶段性能分别达到对照条件下的约 1.7 倍与 1.2 倍。

截至 2026 年 8 月,MiniCPM 系列开源模型全球下载量已突破 5000 万次。端侧智能体能否在有限算力与内存下稳定完成工具调用、搜索与代码生成,并在效果、速度与功耗之间取得平衡,将是这类“小钢炮”模型能否把评测优势转化为日常价值的关键。

文章与图片内容转载网络,如有侵权请联系平台删除

点赞(0)

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部