在线体验

来源:互联网 更新时间:2026-08-01 13:58

简介

开源社区在平衡性能、效率和内存占用这件事上，可以说是折腾了相当久。虽然市面上已经有了像Qwen1.5-72B和DBRX这样的顶尖模型，但它们背后的问题也同样突出：内存消耗大得惊人，推理速度慢得让人着急，更别提微调成本有多高了。也正因如此，参数量在30B左右的模型，最近成了很多人眼中的“香饽饽”。顺着这股浪潮，阿里也顺势推出了Qwen1.5系列的新成员——Qwen1.5-32B和Qwen1.5-32B-Chat。

在线体验

性能

Qwen1.5-32B，作为该系列的最新力作，除了参数量这个最直观的差异外，在模型架构上和家族其他成员保持着高度一致。唯一值得一提的亮点，就是引入了GQA（分组查询注意力）机制。正是这个GQA，让它在实际部署和提供服务时，拥有了更高的推理效率潜力。

那么，它的实际表现到底如何？下面这张表，就是它和市面上其他30B乃至更大参数量的顶尖模型，在基础能力、对话能力以及多语言任务上的正面较量。先说基础语言模型能力的评估结果：

可以看到，Qwen-1.5-32B在MMLU、GSM8K、HumanEval以及BBH等一系列基准测试中，交出了一份颇具竞争力的答卷。和自家的72B大哥相比，性能上确实有轻微回落，但放在30B这个级别的模型里，比如Llama2-34B或Mixtral-8x7B，它几乎在所有任务上都占据了优势。而在对话模型的评估上，我们沿用了Qwen1.5的评估方案，重点考察了MT-Bench和Alpaca-Eval 2.0两项指标。

结果如下：

值得关注的是，Qwen1.5-32B-Chat的得分轻松超过了8分，并且与Qwen1.5-72B-Chat之间的差距，远没有参数规模差那么大。这意味着什么？很简单，对于那些正在寻找更高效、更具性价比解决方案的用户来说，这个32B的模型已经成了一个非常靠谱且可行的选择。