【AI助手】用长期记忆去掉AI爱总结的毛病

在打造一系列知识助手的过程中，很多人都会撞上同一个困惑：大模型就是不肯老老实实跟着人的想法走，到底有没有办法让它听话？当然，这里讨论的是合规合法的内容。比如你想让它老老实实列个故事大纲，它偏偏做不到精准输出——不是没这个能力，而是它要么不做，要么控制不住自己。再比如，它列完故事之后总要习惯性地添上一段自己的讲解或者总结，这恰恰是很多用户不想要的。场景很好理解：刚看完一部电影，你只想自己消化回味，不想听别人硬塞过来的评论。虽然听听不同观点也有好处，但这种“强行附加”的总结确实让人头疼。

从大模型的设计机制来看，你难免会琢磨：是不是它天生就被设计成这副德行？底层的结构和算法注定了这种结果？这算不算白璧之瑕？经过反复测试，大模型确实很“顽固”，但好消息是——智能体是可塑之才。怎么说呢？给它加上人设，再开启长期记忆，我们就能把智能体越训练越聪明。

新建一个智能体，然后开启它的长期记忆：

接着给它设定人设：

这就像人工智能专家给AI设定基本准则一样，我们也用类似的格式给它定下若干规则。这个设定过程需要不断优化——不同的大模型有不同“脾性”，根据它的具体表现随时增补规则就好。

起初，大模型还是很难严格遵守规则：

需要提醒它，它才能意识到自己犯了错：

经过多次提醒，它就能从长期记忆中学到东西了：

解决完这个“爱总结”的毛病之后，一个延伸问题自然浮现：我们应该依赖这种提示词优化，还是等待大模型本身的训练迭代？大模型有针对性地训练当然更有效果，就像奥特曼说过的，新模型（大概指GPT-4o或GPT-5）会让很多创业公司的努力变得白费。但与此同时，也不能小看用提示词进行微调的作用——事实证明，智能体微调是有潜力的。而且，一旦你发现某方面的优化确实有价值，也可以尝试让更多人意识到这一点，反向推动大模型自身的优化。

OK，就到这。