热门搜索:和平精英 原神 街篮2 

您的位置:首页 > > 教程攻略 > ai资讯 >提示词工程论文登上ICML 2026,网友吵翻了天

提示词工程论文登上ICML 2026,网友吵翻了天

来源:互联网 更新时间:2026-07-15 22:19

先说一个让人大跌眼镜的消息。提示词工程,竟然也能被ICML接收了?

事情是这样的。有位老哥在Reddit上分享了一篇刚被ICML 2026接收的论文,帖子瞬间引爆,评论区蹭蹭往上涨。但所有人的反应出奇一致——这也行?

论文里没有提出任何新的优化算法,也没有训练出新的大模型。作者只干了一件事——

改Prompt。

这个叫做Verbalized Sampling(VS)的方法,核心思路就是通过调整提示词,来显著提升大模型输出的多样性,缓解长期困扰LLM的Mode Collapse(模式坍缩)问题。

听起来挺实用的,但仅凭一个Prompt技巧就能上顶会?这合理吗?

别急着下结论,先看看论文到底说了什么。

一篇争议十足的ICML论文

你有没有这种感觉,AI越来越同质化了?问它十遍“给我讲一个笑话”,得到的答案高度相似。不仅仅是创作任务,回答问题、代码生成,都是如此。

这种现象,在学术界被统称为

模式坍缩

。说白了,就是模型越来越倾向于输出概率最高、最安全的经典答案,而那些另类、有创意的思路则被无情拒绝。

过去要解决这个问题,大多数研究者首先想到的是调整采样参数、修改解码算法、甚至重新训练。但这篇论文另辟蹊径,

直接让模型把自己的采样过程一并输出

举个前面讲笑话的例子。作者修改了提示词,要求模型:

生成5个笑话,同时为每个笑话分配一个可能的概率值。

结果呢?模型产出的内容更丰富、重复率也更低。就这么简单。连微调都不需要,只换一种提问方式,就能大幅提升内容多样性。

当然,论文里对这套方法是有严密论证的。

首先,他们要搞清楚造成模型千篇一律的根本原因。过去,学界普遍把问题归咎于算法层面,比如奖励模型不够好、KL惩罚项设置得不够合理。这篇论文深入调查后发现,真正的病根可能出在偏好数据上。

他们提出了一个概念——

典型性偏差

。从认知心理学角度看,人类标注者天生偏爱熟悉、流畅、常规的文本,打分时自然会倾向于那些刻板、大众化的回答。

这意味着,哪怕奖励模型、优化算法做得完美无缺,只要训练用的人类偏好数据自带典型性偏差,对齐后模型依然会出现模式坍缩。作者在五个偏好数据集和不同的基座模型上反复测试,

结论保持一致

想通这一点后,作者的思路就清晰了。既然问题根植于训练数据,那只需要在推理阶段设计一个提示词方案修正——具体来说,就是在Prompt中让模型输出完整概率分布——便能唤醒预训练阶段中模型原本具备的多元输出分布,找回多样性。

剩下的就是把这套方法在各种场景里实验跑一遍。结果很亮眼:在创意写作任务中,多样性提升是普通提示的

1.6~2.1倍

,而且不影响内容的事实准确性和模型安全水平。更值得注意的是,模型能力越强、参数量越大,VS带来的多样性提升效果就越显著。

所以,诚然方法本身很简单,但ICML最终还是Pass通过了。

Reddit网友吵翻了

不过在原贴下面,对这篇论文的评价可以说是

两极分化

不少网友表示,以前的ICML都是新模型、新算法、新理论这种硬核创新,只做Prompt、推理流程优化,还算不上正经的机器学习研究。相比之下,这篇工作的

创新稍显单薄

,而且有几个问题:

  • 类似写指令的方法并非独创,甚至有人表示自己昨天就在这么写Prompt
  • 理论不好验证,因为Prompt换模型可能就失效了,不像算法那么稳定
  • 实验规模有限,不足以证明这是个普适规律

有人干脆把机器学习领域的现状类比为

心理学界

十几年前的学术危机。那时大量研究者统计学基础薄弱、滥用统计工具,导致很多论文的结论无法复现,行业遭受严重信任危机。而机器学习行业现在也

高度依赖实证实验,轻视严谨理论支撑

行业内卷追逐新方法,但普遍存在过度调参、benchmark刷分的风气。很多所谓的创新算法,对比成熟基线模型几乎没有实际落地价值,仅靠微小指标提升就包装成创新成果。本质上,都是学科高速扩张后,从业规范不清晰导致的论文出版问题。

但支持者的观点也很明确:

科学研究并不是比谁的方法更复杂

。只要假设明确、实验充分、结果稳定可复现,未尝不可以是优秀研究。这篇论文充分解释了模式坍塌,并提出真正的问题在于典型性偏好——这个观点本身,比Prompt方法要重要得多。

其中一位作者本人也在评论区回应,表示这篇论文看似简单,实则包含

非常多复杂的处理过程

。整套工作有完整的问题溯源、新理论归因、数学推导、多维度定量实验,绝非浅层调prompt的灌水工作。

很多人也提到了思维链

CoT

。当初CoT最早出现的时候,本质上也是一句Prompt:

Let’s think step by step.

可如今,几乎所有的推理方法都能追溯到CoT。这恰恰说明,提示词工程早已不是简单的写提示词,它正在成为研究模型行为的新方法。

过去十几年,机器学习研究几乎都围绕训练展开。但现在,一些

推理阶段的使用技巧

也逐步走向机器学习研究的核心位置。或许未来几年,我们会看到越来越多这样的论文——它们没有新增一行训练代码,没有增加一个模型参数,却能改变大模型的能力边界。

研究团队介绍

最后来看一下研究团队。该工作由美国东北大学Weiyan Shi团队联合斯坦福Manning实验室、西弗吉尼亚大学合作完成,Jiayi Zhang、Simon Yu、Derek Chong为并列第一作者。

Jiayi Zhang

,本科就读于密西根大学,获得计算机科学、数学与语言学三学士学位,然后赴美国东北大学攻读计算机科学硕士。她的另一篇被NLP顶会NAACL 2024接收的论文《Analyzing the Role of Semantic Representations in the Era of Large Language Models》,同样围绕语义表示和大模型展开。

Simon Yu

,目前在美国东北大学攻读博士学位,主要方向是大模型中的对齐与强化学习机制研究。本硕均就读于爱丁堡大学,曾发表多篇顶会论文。除了本篇论文,他的另一篇论文《Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents》也被ICML 2026接收。

Derek Chong

,硕士毕业于斯坦福大学,目前是斯坦福大学人工智能实验室研究员,研究方向主要集中在NLP和大模型。曾拥有三年创始人创业经历,并入职Ello担任应用科学家,参与产业端AI落地研发工作,理论研究功底扎实的同时,也拥有丰富的一线实操经验。

热门手游

手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc