4B以下全球性能第一,适配9款芯片
核心亮点
面壁智能联合 OpenBMB 发布端侧模型 MiniCPM5-2B,以仅 2B 的模型复杂度,在 AA-Index 榜单的 4B 以下分组中拿下了最高分 17 分、平均分 54.26 的成绩,直接超越 Qwen3.5-2B 等一众竞品。换句话说,它能用更小的参数量,打出比更大模型还强的端侧表现,把「小模型也能打榜」这件事坐实了。
具体能力或事件经过
MiniCPM5-2B 的核心卖点之一是原生支持混合思考(hybrid thinking),也就是模型可以按需在「快思考」与「慢思考」之间切换:简单任务直接给答案,复杂任务才展开多步推理,从而在延迟和效果之间取得平衡。与此同时,它原生支持 512K 的上下文长度,意味着一次性吃掉一本长文档或一整段代码库也不在话下。更关键的是,模型已完成华为昇腾、英伟达等 9 款主流芯片的 Day0 适配,开箱即可在不同硬件上跑起来,不必等社区慢慢移植。
技术细节
Day0 适配意味着在新芯片发布当天就能提供可运行的支持,而不是等社区慢慢移植。512K 上下文则依赖长序列注意力与显存优化,让端侧设备也能处理超长输入。混合思考通常通过训练时注入思考标记实现,使同一权重同时具备两种应答风格,推理时再按任务难度自行选择。
与竞品对比
相比 Qwen3.5-2B 等同级别模型,MiniCPM5-2B 的优势在于「小到能端侧跑、强到能打榜」的组合。它不追求参数规模,而是把性价比和硬件兼容性做到极致,这对手机、车机、开发板等资源受限场景尤其友好,也意味着同样的体验可以低成本铺到海量设备上去。
行业影响或适用场景
说白了,这类高能效端侧模型把大模型从机房带进了口袋。它很快就会开源,开发者可以把它塞进手机、边缘网关、智能座舱里做离线推理,既保护隐私又省掉云端调用成本,是端侧 AI 真正规模化的关键一环,也为国产芯片的软硬件协同提供了现成的样板。