国产“小钢炮”MiniCPM3-4B：小参数，大能量！

AI 大模型圈子里，参数规模似乎总在“军备竞赛”，但面壁智能的“小钢炮”系列却一直在走另一条路——用更小的体量，实现更强的能力。最新发布的

，仅 4B 参数，却放话能在移动设备上跑出 GPT-3.5 级别的水平，还集成了超强的推理、检索和代码解释功能。这口气不小，咱们看看它到底怎么做到的。

01 模型介绍：从 MiniCPM 1.0 到 3.0

MiniCPM 3.0 是“小钢炮”家族最新成员，相比前两代，架构和性能上都有明显跃升。先看一张三代模型的核心参数对比表，一目了然：

• 位置编码
  ：三代均采用

  RoPE（旋转位置编码）
  ，保障长文本处理时序列位置信息的高效保留，尤其是在超长上下文中表现突出。

• 注意力机制
  ：从 MiniCPM 1.0 的标准 MHA，到 2.0 引入 GQA 提升效率，再到 3.0 的

  MLA（Multi-Level Attention）
  ——这是核心创新，让推理和生成稳定性更强，特别适合长文本任务。

• 词表大小
  ：从 1.0 的 123K 精简到 2.0 及 3.0 的 73K，速度更快，多语言场景也更友好。

• 模型层数
  ：从 40 层 → 52 层 → 62 层，持续堆叠，复杂度与推理能力同步提升。

• 隐藏层节点数
  ：从 2304 → 1536 → 2560，3.0 的参数量分配更向表达能力倾斜，数据推理任务尤其受益。

• 最大上下文长度
  ：从 4K 直接跳到 32K，这是质的飞跃——文档分析、写作工具等长文本场景终于有了底气。

• 系统提示词 & 工具调用
  ：前两代不支持，3.0 全面引入。系统提示词能精准控制对话风格，工具调用和代码解释器更是让模型从“聊天机器人”升级为“智能助理”。

02 核心亮点：打破性能与参数之间的界限

无限长文本处理，性能随文本长度延展

MiniCPM 3.0 引入了

技术，理论上可以处理无限长度的文本。无论是 32K 还是 512K，模型都能稳定应对。在长文本评测基准 上，它甚至超越了 8B、9B 参数级别的对手 Kimi——小参数逆袭，靠的是架构优化，而非蛮力。

端侧最强 Function Calling，媲美 GPT-4o

在端侧设备上，MiniCPM 3.0 的 Function Calling 能力是目前最强的之一。它能精准理解用户输入，并转化为可执行的结构化指令——比如调用日历、天气、手机文件或应用。在

上，它的性能已经逼近 GPT-4o，这说明小模型也能干大活。

RAG 三件套：检索、排序、生成全能选手

MiniCPM 3.0 同时发布了 RAG 三件套：

（检索）、（重排序）和 （生成）。在多项检索任务上取得了 SOTA 表现。经过 LoRA 微调后，开放域问答、多跳问答等任务上，它超越了 Llama3-8B 和 Baichuan2-13B，成为中英文跨语言检索的领跑者。

03 MiniCPM 性能评估

光说不练假把式，直接看评测数据。MiniCPM3-4B 在多个基准上表现亮眼：

• 综合平均分
  ：66.3 分，超越 Qwen2-7B（65.3）和 GLM-4-9B-Chat（65.0）。注意，后两者参数规模是它的两倍甚至更多。中文能力、数学能力等任务上，优势尤为明显。

• 工具调用能力
  ：BFCL 分数高达 76.0%，领先 Qwen2-7B-Instruct（71.6%）和 GLM-4-9B-Chat（70.1%）。这个分数意味着在实际应用中，它能更准确、更灵活地执行结构化指令。

总结一下：MiniCPM 3.0 用 4B 参数，在长文本、工具调用、RAG 三个关键方向上都做到了“人狠话不多”。对于端侧部署、移动设备、隐私敏感场景来说，这可能是今年最值得关注的小模型之一。