四月及五一假期LLM+KG+RAG产研总结：开源的继续奔放与RAG等的转向

来源:互联网 更新时间:2026-08-05 16:44

今天是2024年5月10日，星期五，北京。雨后的晚霞很漂亮。

本文来回顾4月份大模型领域的一些关键进展，并梳理RAG、Agent、KG方面的几个有趣话题。

一、四月份大模型关键进展

4月份在开源侧出现了多个关键事件，尤其是Llama 3的开源，后续衍生出数十个中文微调模型。

此外，在音乐生成方面，4月份也有一些动作，出现了一些很有影响力的整理工作。同时，也有LeCun一直以来对当前自回归模型的不同看法。

当然，在综述总结侧，四月份也涌现出了一些可以学习的综述性论文、开放课程等，涉及大模型自身理论与实践、多模态prompt等，这些方向有很好的指引作用。

当前，RAG已经进入稳态，与知识图谱相关的进展并不是很多，大多工作仍集中在评估和方案集成的思想上。随着RAG的不断发展，对文档进行预处理的工作也逐步受到关注，例如文档的版式分析、阅读顺序等。

当然，目前也延伸出很多有趣的话题，比如RAG的长文本压缩、大模型到底理不理解图表、RAG中如何引入时间相关性、Agent的实现范式及角色定位、RAG中的文档处理具象化理解、RAG文档处理中的语义分割问题、RAG后续的演化方向，以及一些值得参加的RAG竞赛等，总共十多个话题。

而从实践来看，Agent的进展实际上是一种工程上的花活。

关于这个话题，有一份很有意思的总结工作，其中几点观察很到位：

1. Agent的规划能力依赖于prompt工程能力，它比想象中更重要、执行起来也更琐碎。

2. 目前LLM的数学和逻辑推理能力在COT的基础上也仅能勉强达到及格水平，所以不要让Agent一次性做复杂的推理性规划工作，而是把复杂任务人工拆解后再教给Agent。

3. Agent的Action能力强烈依赖于基座模型的function calling能力——在规划Agent之前，对模型的function calling能力要充分调研。

类型：角色扮演

大小：1

语言：简体中文

平台：互联网

游戏下载