Meta 发布最强开源大模型 Llama3.1

大陆时间2024年7月23日深夜23:10，Meta正式发布了其最新的开源大模型Llama 3.1^[1]，一口气推出了8B、70B和405B三个参数版本。这一发布，无疑给本就火热的大模型赛道又添了一把柴。

新一代模型带来了几项硬核升级：首先是上下文窗口扩展到了128K token，这意味着模型能更好地理解长篇幅的复杂语境；其次是多语言能力覆盖8种语言，处理跨语言任务更加得心应手；推理能力也有了明显提升，面对复杂问题时，逻辑判断和决策能力更上层楼；此外，模型还支持工具调用，让更高级的应用场景成为可能。

模型评估

Meta在发布时对Llama 3.1进行了全面的性能评估，覆盖了超过150个多语言基准数据集。不仅如此，还做了大量的人类评估，让Llama 3.1与竞品模型在真实场景下正面交锋。结果显示，它的旗舰版在与GPT-4、GPT-4o以及Claude 3.5 Sonnet这些闭源顶级模型的对决中，丝毫没落下风。

即便是8B的小参数版本，也在同体量的模型（无论开源还是闭源）中表现出了明显的优势，可以说是“小身材，大能量”。

开源协议与应用

这次Meta在模型许可协议上迈出了一大步——

。这在LLM开源领域算是首开先河，对推动整个社区的发展意义深远。实际上，Meta自己就已经利用405B的输出来反向提升较小模型的后训练质量了。

从应用场景来看，Llama 3.1的潜力相当广泛：

• 客服系统
  ：提供更丝滑的客户服务体验，高效解决用户问题。

• 内容生成
  ：能够生成更多样化、更高质量的内容，适配不同需求。

• 问答系统
  ：快速给出精准答案，助力用户解决难题。

• 语言翻译
  ：支持多语言互译，打破语言壁垒。

可以说，新的机会正在到来。

使用 Ollama 运行 llama3.1:8b

如果你想要快速上手体验，用Ollama跑一个8B版本是个不错的选择。

1. 下载模型

$ ollama pull llama3.1:8b
pulling manifest
pulling ff07ca852139... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████▏ 4.7 GB
pulling cdbcae7e69d5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████▏  571 B
pulling f1cd752815fc... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████▏  12 KB
pulling 56bb8bd477a5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████▏   96 B
pulling 7f5b37e43ea5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success

1. 简单测试

$ ollama run llama3.1:8b "为什么天空是蓝色的？" --verbose
我们现在知道，天空是蓝色的，因为它反射了太阳光。这个基本的物理现象很好地解释了大自然中蓝色的一切。

太阳光线分为所有可见颜色的光波——从红到紫。蓝色的光波比红色的短，但也比绿色的长。地球大气层在我们头上时，会吸收所有的红色和橙色光线，然后把这些能量转换成热能。这个
过程叫做散射。

蓝色的光波因为其波长较短，所以能穿过大气层，而不被吸收掉。当我们看天的时候，我们实际上是在看到大气层反射的蓝光。

所以，天是蓝色的，因为大气层把红色的、橙色的和黄色的光波都阻挡了，只让我们看到蓝色光线。

total duration:       2.342940467s
load duration:        11.383278ms
prompt eval count:    16 token(s)
prompt eval duration: 63.679ms
prompt eval rate:     251.26 tokens/s
eval count:           193 token(s)
eval duration:        2.225761s
eval rate:            86.71 tokens/s

实测下来，llama3.1:8b能够根据问题的语言自动选择用中文回复，无需额外提示，这与Meta官方强调的多语言能力完全吻合。

附：马克·扎克伯格 (Mark Zuckerberg) 的 AI 理念

扎克伯格在公开信中分享了他的核心看法：

他相信开源能确保全球更多人有机会享受人工智能带来的益处，而不是让这项技术集中在少数人手中。开源意味着技术可以更平等、更安全地部署到整个社会。

通过开放源码，Meta希望让更多人享受AI的红利，减少权力集中在少数人手中，同时让技术更安全地服务于整个社会。

安全和责任同样是Meta关注的重点。确保AI技术部署到社会的同时，不会带来任何危害或伤害，这也是Meta持续推动开源成为行业标准的深层原因。