来源:互联网 更新时间:2026-07-08 14:57
红杉中国最近亮出了一套全新的评测体系——AgentIF-OneDay。这个动作,有一个很务实的意图:重新衡量Agent在长时间复杂任务中的真实水平,看看它到底能不能从“提问助手”进化成真正的“数字员工”。

大模型在单点推理上,已经在向PhD的水平快速靠拢了。但Agent领域却迎来了一道分水岭:短程任务表现惊艳,长程任务却总是力不从心。红杉中国内部的研究团队xbench,接连在两周内发布了两篇论文,核心目标很明确——通过构建更科学的评估基准,预判技术演进的真实方向。
核心理念其实很清晰:一是短时任务与长时任务之间那道能力鸿沟;二是Scaling Context和Scaling Domain两个关键方向;三是一个全新的视角,把任务复杂度和它的经济价值挂上钩。
自从xbench推出ScienceQA与DeepSearch以来,这两个评测集已经迭代了好几个版本。无论是模型本身,还是基于模型构建的Agent系统,在分钟级集中推理任务上已经相当稳定,从最初的human-a verage水平,慢慢逼近了PhD-level。
但问题也随之而来。进入Agent能力评测的深水区后,会发现短时任务与长时任务之间的能力鸿沟是真实存在的。即便单点推理和局部任务水平很高,一旦任务复杂度突破一个人一小时能搞定的范围,Agent的整体完成度就会明显下降。
xbench一直坚持一个判断:更好的评估,应该能反映模型和智能体在实际工作和生活中的价值。所以,这次不只是看知识点有多深,而是提出一个更务实的视角——
Agent能力的演进,会沿着两条主线展开:
所以在设计AgentIF评测体系时,xbench同时沿着这两条路径推进。一方面拉长人类时间尺度,从OneHour走到OneDay;另一方面覆盖更多元的生活、学习和职业场景。
在对大量用户真实工作日志进行分析后,发现尽管具体任务千差万别,但日常工作其实可以抽象为三种类型:
用户已经知道完整流程,明确给出操作步骤,Agent只需要精确执行。这就是
Agent如果能在整个流程中保持一致性,逐步完成步骤,在长上下文中维持状态,那就意味着它具备了帮人类把事做完的潜力。这也是大量用户希望Agent替代重复性劳动的核心原因。
用户并不明确知道完整的工作流,只提供若干案例或参考资料。这是
范例参考是人类最自然的工作方式——不会每次从零写起,而是让Agent从提供的示例中挖掘潜在意图。如果Agent具备这种能力,就能真正参与内容生产、报告生成、数据整理这类职业任务。
人类的工作普遍是多轮迭代的,开始时不知道完整解法,需要在交互中不断提出新需求。这类任务就是
过去三个月,xbench按照这三个类型制备了AgentIF第一期题库,总共104道任务,覆盖工作、生活(游戏攻略、旅游规划)和学习。其中62道由文件驱动的合成任务,覆盖了PDF、PPT、Excel、图像、代码文件等15种以上格式,本质上模拟了真实工作流程中常见的跨格式、跨来源模式。
每道任务都配有细粒度的评判标准,总计767个评分点,分为正向指标(格式一致性、结构复现、步骤完整)与负向指标(误删内容、越界生成、错误操作)。评测采用LLM作为裁判(Gemini 3-pro的出现让打分准确度提升到了可用程度),结合网页检索、HTML渲染、多模态比对等方法自动校验。Agent的得分不仅取决于是否完成任务,还包括流程是否干净、操作是否正确、附件是否解析到位、迭代过程中是否保持一致性。
在AgentIF框架下,对现有主流Agent系统进行了系统化测试,有几个有趣的发现:
以Overall完整任务成功率为标准,Manus、Genspark与ChatGPT-Agent都集中在0.62–0.65区间,构成当下能力最强的第一梯队。这意味着,无论是通过模型原生甚至RL训练出来的系统,还是基于API的工具链集成或深度multi-Agent系统,在完成一套真实任务链时,用户侧感受到的能力是比较接近的。这也印证了模型即Agent的判断——在底层模型能力不变、不引入test-time scaling的前提下,不同多智能体框架本身难以拉开数量级上的性能差异。不过,这些系统在
从
在
稳定性、文件处理链路、隐式结构理解能力、跨工具状态管理,这些都是决定Agent能否承担一天工作量的关键。AgentIF-OneDay通过这类任务,揭示了当前Agent在真实使用中的能力边界和常见失效模式,也点明了下一阶段能力演进的方向。
随着系统能力的提升,预计在2026年Agent将开始挑战OneWeek的人类工作量。围绕OneWeek的评测集已经在构建中。当一个Agent能在每周稳定的工作量上保持高质量产出,它就具备了承担真实岗位的能力,也会在组织内创造更多的实际价值。
与AgentIF-OneDay相比,OneWeekIF的挑战不只是任务变长,还有评测本身的出题难度显著增加。周尺度的任务往往带有明确的行业语境——金融、医疗、法律——高价值场景数据的获取成本也会大幅上升。
当任务复杂度发展到这一阶段,依赖静态数据集和离线构建的训练与评测方式,开始暴露出难以回避的局限性。一个越来越自然的思路出现了:让Agent在实际运行中具备主动学习的能力——在真实或半真实环境中自主收集经验,对自身行为进行评估与修正,通过长期交互逐步形成稳定策略。
从更长期来看,静态训练与静态评测可能都不是未来Agent系统的最佳路径。近期关于online learning的讨论越来越多,更多研究者倾向于认为,如果模型只在既有的人类知识分布内循环,就无法突破到更高层级的智能。下一步的能力scaling,很可能发生在模型被部署之后,通过不断的real world RL来获取practical的知识——持续学习,持续适应。
一个赢得用户信任的Agent助理必须交付可靠结果。在长程任务中,错误累计效应会指数级放大。可以把长程任务Agent的发展比作自动驾驶:从有限路段走向通用路段,从频繁人工干预走向长时无干预FSD。这个过程依赖于大量用户驾驶数据的积累,用户数据能最大化拓展场景的丰富度,给系统带来最好的泛化性。在长时任务的Agent领域同样如此——有效的数据累计能带来高可靠Agent系统的出现,优先转起数据飞轮的公司,将率先实现通用Agent的FSD时刻。
俄罗斯最大yandex入口外贸日报直达链接
腾讯元宝怎么用来分析股票基金的基本面信息?
美好的简约网名男生(精选100个)
盖乐世社区怎么删除帖子?盖乐世社区个人发布内容撤回步骤
Bubbly无法连接服务器修复方法
欧易OKX官方网站直达入口 2026欧易官方App安卓版v7.1.0下载安装
新浪人工智能热点小时报丨2026年06月20日02时_今日实时人工智能热点速递
问题:CIA币好不?Cia Protocol币今日上线:价格预测、代币经济学和未来潜力
国际贵金属走低,现货黄金价格跌0.49%
wallpaper壁纸声音怎么开启
倒数日怎么注册 倒数日账号注册教程
币安Binance交易所官方入口 币安App下载安装与实名注册教程
短剧《退休金断供,女儿女婿慌了》剧情介绍
动漫《KiraKira 光之美少女 A La Mode》剧情介绍
《梦幻西游》特殊鬼怪怎么抓-隐藏变异鬼应对要点
漫威新剧《钢铁侠和他的超能朋友们》今日炸更11集,Thor和Loki惊喜客串
以太坊(ETH)未来数周或持续呈现低迷态势,多重因素制约价格走势
宝马水鸟摩托车的官方指导价是多少
三个字的带七男生网名(精选100个)
文雅简易网名男生可爱(精选100个)
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc