来源:互联网 更新时间:2026-06-03 14:01
扩散世界模型提速,难在哪?每一步去噪都得把那个大 Transformer 从头到尾跑一遍,这是最直接的瓶颈。而 WorldCache 这篇工作的思路很干脆:别再把所有 Token 和所有时间步都当成一回事儿了。简单来说,就是不再把缓存当作一件笼统的事,而是把“哪些内容适合缓存”和“哪些时刻必须重算”这两件事拆开处理。不重新训练模型,几乎不增加额外显存,就把缓存做成了一套更贴合世界模型结构的推理策略。

论文标题:WorldCache: Accelerating World Models for Free via Heterogeneous Token Caching

世界模型之所以比普通图像或视频生成更难加速,首先在于它生成的不是单一模态内容。以论文关注的扩散世界模型为例,模型在去噪过程中同时处理RGB、Depth以及与相机轨迹相关的多模态状态,不同模态、不同空间位置上的 Token,变化速度和变化方式都不一样。有的 Token 在连续时间步之间几乎静止,有的 Token 大致线性变化,还有一小部分 Token 会出现明显的非线性转向。如果继续沿用单一缓存规则,要么会为了照顾困难 Token 而对大多数容易预测的 Token 过于保守,要么会因为策略太激进,在少量关键 Token 上迅速累积误差。
第二个问题出现在时间维度上。世界模型的去噪过程并不是均匀平滑地推进,真正决定结果是否失稳的,往往不是所有 Token 的平均变化,而是那一小撮最难缓存、最容易漂移的“瓶颈 Token”。这意味着,固定间隔跳步也好,基于全局平均差值触发重算也好,都会错过真正危险的时刻:该重算时不够敏感,不该重算时又容易浪费一次完整前向。WorldCache 的切入点,正是把这两个世界模型特有的失效机理拆出来分别处理。
WorldCache 的第一步,是用曲率去估计 Token 轨迹到底“好不好预测”。论文使用最近三次 FULL 计算得到的真实输出,构造离散速度和加速度,再由此计算每个 Token 的曲率分数。直观地看,曲率越小,说明该 Token 的轨迹越接近平滑、线性,可预测性更强;曲率越大,则意味着它在当前阶段更可能发生突变或转向。基于这一分数,WorldCache 将 Token 划分为 Stable、Linear 和 Chaotic 三组,分别对应直接复用、线性外推和阻尼更新三种缓存方式。
这一步的关键,不是简单地把缓存做细,而是把计算真正分配给需要它的地方。对 Stable Token,直接复用上一次输出就足够;对 Linear Token,用一阶外推在成本和精度之间取得平衡;而对最难处理的 Chaotic Token,WorldCache 进一步引入基于 Hermite 平滑权重的阻尼更新,避免模型只依赖最近一步的切线方向做冒进预测。换句话说,WorldCache 不是用一把尺子衡量所有 Token,而是承认世界模型内部存在难度分布的长尾,并围绕这件事重新设计缓存规则。

如果说前半部分解决的是“缓存时如何预测”,那么 WorldCache 的第二步处理的是“什么时候该停下缓存、恢复完整计算”。论文提出了Chaotic-prioritized Adaptive Skipping,也就是混沌优先的自适应跳步机制。它不再对全部 Token 做平均监控,而是只跟踪那部分最难缓存的 Chaotic Token,并利用曲率对特征差值进行归一化,构造一个无量纲的漂移指标。这样一来,系统关心的就不再是“整体看起来有没有变化”,而是“关键 Token 是否已经开始失稳”。
这套调度逻辑带来的好处很直接。一方面,WorldCache 能在大量平稳时间步上放心地延长缓存链条,把昂贵的骨干网络前向让给真正必要的时刻;另一方面,当瓶颈 Token 出现漂移苗头时,累计误差又会足够快地触发 FULL 计算,避免局部误差扩散成整段 rollout 的质量坍塌。从方法设计上看,WorldCache 把“缓存策略”和“重算触发”做成了一套相互配合的系统,而不是孤立地改一个预测器或一个阈值。

在 HunyuanVoyager-13B 的 image-to-world 生成任务上,WorldCache 将端到端延迟从 1053.7 秒降到 288.6 秒,对应 3.65 倍加速;与此同时,Dynamic WorldScore 仍达到 45.43,接近无缓存基线的 46.40,PSNR 为 23.49,LPIPS 为 0.176。更重要的是,它的显存占用为 50.58GB,和基线 50.44GB 几乎一致。相比之下,部分层内缓存基线虽然尝试提速,但显存开销已经超过 100GB,单卡部署并不轻松。

在 Aether-5B 的世界生成任务上,WorldCache 依然保持了最强的一组质量-效率折中:Dynamic WorldScore 为 44.72,高于 EasyCache 的 44.02;PSNR 为 31.87,SSIM 为 0.924,LPIPS 为 0.066;端到端延迟降到 107.2 秒,对应 1.68 倍加速,而显存仍维持在 46.59GB。如果把视角进一步转到几何相关能力,WorldCache 在 Aether 的 3D 重建设置中把延迟从 55.42 秒压到 21.20 秒,实现 2.61 倍加速,同时保持 Abs Rel 0.341、RPE trans 0.068,并在加速方法中取得最低的旋转误差 0.796。

WorldCache 给出的不只是一次更快的采样过程,更是一种面向世界模型内部异质性的缓存思路。
世界模型并不是普通视频扩散模型的简单延伸,面向世界模型的推理优化,必须尊重多模态耦合、空间差异和时间动态非均匀这些结构性事实。在这个前提下,无需额外训练,不引入大规模额外显存,却能把本来昂贵的世界模型推理推到更接近交互式使用的区间,这为更长时间跨度的世界模拟、可交互场景生成乃至具身智能相关应用,提供一种有潜力的路径。
下饭影视APP下载安装指南
和平精英如何做到压枪稳-和平精英怎样才能压枪稳
《Off Campus》第二季官宣:这对CP还在,但不再是主角
下载浏览器app下载安装选择推荐
免费影视剧APP推荐
儿子穿新中式现身大会堂 马斯克罕见用中文回应:他正在学习普通话
Elysium Above 履云录官网在哪下载 最新官方下载安装地址
抖音最火沙雕男生网名(精选100个)
网络热词聊污是什么意思
名单曝光!库克、马斯克等将随团到访中国 黄仁勋不在其中
阿里发布Qwen3.7-Max大模型,全球第五、国产第一
短剧《情绪超市》剧情介绍
短视频软件推荐
洛克王国世界S2赛季狂欢怪谈介绍
免费看电影的软件推荐
SpaceX狂揽AI人才,马斯克亲自面试且不看简历背景
HBO 奇幻剧《龙之家族》第三季定档 6 月 22 日,最终预告片曝光喉道海战
KuCoin基本面分析
金铲铲之战s17六暗星卡莎阵容玩法构筑指南
苹果macOS 27将优化界面设计并测试AI驱动的Safari标签页自动分组功能
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc