如何判断AI视频真假？综述动态、可溯源、可解释的检测体系

然而，在生成侧日新月异的同时，研究界对AI视频检测的关注度却显得有些“温吞水”。

现实中的问题已经摆在眼前：视频的多模态特性带来了比图片大得多的欺骗性，社会影响正在迅速扩大。各个社交平台上，AI生成的虚假视频频频出现，数量、质量和覆盖范围都在激增。你跑去问Grok、豆包这类基座模型“这段视频是不是AI生成的”，得到的往往只是一个缺乏可解释性和可信度的是非判断。更有意思的是，在小红书这类平台上，真实拍摄的视频反而经常被误标为“疑似AI生成”。

生成侧的快速发展与检测端关注度之间的鸿沟，已经大到不容忽视。一个关键问题摆在我们面前：在AI视频生成快速迭代的今天，AI生成视频检测究竟发展到了哪一步？正在经历怎样的范式转变？未来又该往哪些方向走？

正是在这个背景下，来自MBZUAI、中国人民大学和哈佛大学的研究者共同撰写并发布了一篇五十页的综述，首次从视觉和语言两个方向，梳理出一条

的技术路径。文章由此分析了目前迫切需要构建的多层证据耦合的动态、可溯源、可解释的可信检测体系。该综述已被录用。

https://www.researchgate.net/doi/10.13140/RG.2.2.31713.88168

https://github.com/dxhou/AI-Generated-Video-Detection

https://AIgcvdetection.github.io

重写AI生成视频检测的目标

图 1｜AI 生成视频检测的完整流程：生成端、双视角检测，到证据集合

在生成式AI爆发之前，AI生成的视频往往会留下相对明显的视觉伪迹。基于这个前提，在早期以换脸为代表的Deepfake场景中，帧级的视觉感知侧核验是足够有效的。

但最近两年，飞速发展的生成式AI已经把视频质量提升到了一个新的高度，人眼越来越难以分辨一段真实、完整的视频的真假。这时候，只输出一个二分类判断的检测系统就显得不够用了。一个更根本的问题被推到了台前：

这篇综述首先把问题的边界往前推了一步：检测输出需要从“真假二分类”走向“可解释、可信的结构化判断”，从而把检测对象推进到

。

基于此，综述重新界定了检测目标，将其

。简单说，就是。除了视觉和模态间的核验，还需要进一步判断视频内容所包含的这些命题，。

检测对象：AI生成视频的三种范式

图 2｜本综述定义的三类 AI 生成视频范式

从2020年到现在，AI生成视频经历了范式上的迁移。从早期Deepfake时期通过GAN对视频局部进行修改，到换口型和语音等音画重组，再到潜空间扩散模型催生出的像Sora这类“世界模拟器”所支持的全合成视频。综述将AI生成视频划分成了三种范式：

LMV是传统Deepfake检测中

的一类。这类视频在真实拍摄视频的基础上，对局部区域进行处理，比如换脸、换背景。场景、人物动作、镜头运动、光照关系等原始视频的大部分结构通常都还保留着。所以，绝大多数早期方法都围绕局部伪迹、频域特征、几何异常和区域一致性来展开。不过，随着生成模型在局部融合、光照适配和身份迁移上的能力越来越强，加上平台处理和二次传播又会抹掉很多细小痕迹，对LMV范式的检测重点，也慢慢转向了关注方法在不同场景下的鲁棒性。

A VE范式主要兴起于2024年。这类视频改动的是画面本身与声音、口型、说话人身份、说话节奏、字幕等内容之间原本建立好的对应关系。比如语音驱动的人脸合成、对原视频重新配音、改口型、换说话人。这迫使检测端从看视觉伪迹，转向检查视频内部几个模态之间的关系是否真的成立。需要把声音、口型、身份和内容放在一起看，才能找到真正有判断力的线索。

2025年爆发的GVS范式，模型直接依靠文本、图像、噪声等条件信息生成整段视频，不再需要真实视频作为底子。这给检测端带来了全新的挑战。

这类视频通常在单帧或短时间内看起来非常逼真，但在长时空序列上往往会出现漏洞。例如，人物的动作或在场景中的位置前后衔接不上，物体的形状或运动发生不符合物理规律的变化，或者视频中的事件本身在真实世界中根本无法成立。

相应地，对GVS范式的检测思路也就不能局限于局部和模态间的一致性了。需要走向更高层，从长程一致性、常识、物理规律、叙事和因果出发，在长时空序列上核查内容本身是否可信，去看视频内容在各个层面上是否能在真实世界中成立。

视觉-语言双视角下的四层检测方法谱系

图 3｜Vision-Language Dual-View 四层框架：前两层偏向视觉视角，后两层走向语言视角

目前，AI生成视频检测的模态视角已经分化出两类核心科学问题。第一类是从

出发，聚焦底层信号取证和画面的时空一致性。

另一类从

出发，关注两个核心点：一是视频本身的跨模态语言信息，判断“视频究竟是不是在模态间良好对齐地叙事”；二是利用语言模态引入与外部世界知识、事实相关的推理，判断“视频的内容是否能经受住外部真实世界中知识、事实、规律的检验”。

这篇综述抓住了这一转变趋势，提出从

来组织AI生成视频检测的研究方法和评估范式。在此基础上，进一步提出了一个。

这四层分别是：

Layer 1，底层视觉线索（Intrinsic Cues Analysis）：第一道筛网

Layer 1 中的方法关注的问题是：

在底层信号上，真实视频会满足相应的统计特性，同时，真实拍摄和后期处理得到的视频，会天然地与采集、编码及后处理过程相匹配。而AI生成过程往往会留下风格样式单一、模型对应的水印和伪迹、可以被检测出来的生硬生理信号等偏离真实视频分布的线索。第一层的方法就是从视觉视角出发，通过建模、抽取并放大这些底层信号来进行取证。具体包括检测：

• 频域、纹理、边界、噪声模式等像素与几何异常；
• 脉搏耦合、肌肉微小动作、眨眼节奏等人脸上的生理信号；
• 真实视频和伪造视频在特征空间中是否存在系统偏移。

Layer 2，时空一致性（Spatiotemporal Consistency）：检查“一段视频顺不顺”

Layer 2 的方法针对“视频的多帧在时空上的序列组合”这个概念，关注的问题是：

真实拍摄的视频受限于连续的相机轨迹与现实环境场景，相邻帧之间的主体和背景画面会呈现符合物理可行性和相机运动的连续、可预测的时空变化模式。而AI生成视频在长时序上可能会出现物体或背景失真、画面局部突然模糊等时空上的不连续性。具体包括检测：

• 局部物体变形、背景漂移、突发模糊、运动残差异常等时间与运动不一致；
• 表情变化、身份动态、画面人物主体之间的互动节奏等人类行为与互动动态；
• 与时间频率和画面连续性相关的物理与频率异常。

Layer 3，跨模态一致性（Cross-Modal Consistency）：视频内部的多模态核验

Layer 3 是整个框架里一个关键的转折点。检测开始进入视频内部的多模态核验，关注的问题是：

真实视频中，伴随的音频、文字、画面这些模态之间高度对齐。而AI生成视频很可能存在口型–语音、身份–声纹、画面–文字之间系统性的错配。第三层的方法就是对这些模态间的一致性进行细粒度、多角度的分析。主要包括三种类型：

• 检测声音和画面之间的一致性；
• 将字幕、标题、转写文本、说明文本引入后，进行文本—视频语义一致性推理；
• 面向模态间不一致的时间定位，进行鲁棒性学习。

Layer 4，语言引导的世界级推理（Language-Guided World-Level Reasoning）：着眼于视频与真实世界的间隙

Layer 4 的检测视角从“视频内部的一致性”提升到了“与外部真实世界中的规则、知识是否一致、不冲突”。关注的问题转变为：

真实视频的所有内容都应当与真实世界的事实、物理规则、领域知识、基本常识等保持一致。而AI生成视频的内容往往难以完全对齐到真实世界，这正是第四层可以利用的检测空间。具体方法包括：

• 用提示词、文本先验、文本原型或轻量模块去重新校准模型的表征空间，让模型更容易把看到的异常与更明确的语义类别对应起来；
• 将检测视为一个查证流程，构建一个会查资料、会调工具、会回头修正判断的调查员智能体，把判断与证据、工具输出、查证过程等对应起来；
• 通过微调、偏好学习、奖励建模和强化学习，把“如何选证据、如何组织解释、如何给出结论”训练进模型本身，关注给出清楚、结构稳定、证据链完整的检测输出。

生成侧和检测端的演进图谱

图4｜代表性检测方法演化图谱：生成侧威胁升级与检测端提升同步推进

上图沿着时间线呈现了生成侧威胁不断抬高“假视频”所能达到的逼真上限。与此同时，检测技术所依赖的基座模型也经历了从深度卷积网络与循环网络，到视觉Transformer，再到具备推理能力的视觉语言大模型与智能体系统的演进。在这个背景下，检测端从视觉取证逐步走向多模态验证与高层推理检测。这张图就是整个演进过程的全景图。

综述还进一步对检测方法的层级分布做了时间上的统计。2020年，语言视角的方法占比仅为7.7%，而到了2023年，这个数字升至40.0%，到2025年已经过半。

总的来说，检测方法的重心在持续上移。早期主要集中在第一层和第二层，而随着生成视频越来越平滑、越来越逼真，检测开始更多地进入第三层和第四层。

图 5｜检测方法分布变化统计：语言视角占比逐渐上升

检测方法评测

面对“事实保真度检测”这个目标，对检测方法的评测需要回答一系列问题：模型是否掌握了可迁移的视觉线索？是否能够识别时空和跨模态的不一致？是否能够对事实、知识和世界约束做出有效判断？综述系统梳理了从传统Deepfake时代到今天，检测评估指标和数据集的演进历程。

视觉-语言双视角下的评测指标

共享指标：Acc / AUC 仍然必要，但远远不够

Acc、AUC、Precision、Recall、F1、EER、PR-AUC，以及frame-level和video-level的聚合方式，仍然是不同方法之间最基本的共同语言，让不同层级的方法可以横向比较。然而，这些基础评测指标虽然仍然必要，但已经无法承载事实忠实性验证目标下对可解释、可信评测的要求。

视觉视角下的指标：评估在真实环境干扰下能否继续成立

评测的重心在于，当检测器遇到分布变化、压缩传播和真实环境干扰之后，它原来依赖的线索还能不能继续成立。主要分为两类：

• 低层线索的鲁棒性：
  包括固定阈值下的 TPR@FPR=α、跨数据集测试、扰动压力测试等。

• 时空与物理一致性：
  关注 video-level reporting、temporal perturbation drop、motion ablation，以及去掉时序信息之后模型会不会明显退化。通过这些测试，来评估检测器是否真的在“看”整段视频的连续性，而不是继续靠单帧中的“捷径”来做判断。

语言视角下的指标：多模态定位及推理评测

语言视角下的检测路径覆盖范围更宽，评测指标已经无法再用一套简单的分类指标来概括。综述做了如下分层：

• 跨模态对齐与时间定位：
  这类评估指标关注检测在跨模态对齐上的准确性，以及能否把线索定位到具体时间段。除了基础的 Acc 和 AUC，常见指标还会加入 AP、AR、Recall@K、mAP@IoU 等。

• 世界知识与推理：
  面对更高层级的问题——“视频讲述的事件能不能被常识、物理规律、外部知识和具体证据支撑”，检测的评测指标需要引入 human judgments、pairwise preferences、question answering，以及 BLEU、ROUGE-L、METEOR、CIDEr、embedding-based similarity 这类用来评估解释质量的指标。

数据集：按检测对象的三类范式重新组织

绝大多数用于评估和训练检测方法的数据集，天然地会沿着前述的AI生成视频范式分化。综述进行了如下梳理：

1. 面向LMV范式的数据集：
   评测重点集中在检测方法视觉线索的稳定性，以及这些线索在失真、压缩和跨域传播条件下能否继续成立。这类数据集正不断通过纳入时间推理和解释性评测，来更接近真实环境。

2. 面向A VE范式的数据集：
   这类数据集往往更强调精细的时间标注、更明确的跨模态对应关系，以及更强的局部错位和语义错配建模。目的是考察模型能否发现音频和视频没有在说同一件事，能否定位错位发生的时段，能否分辨出是同步问题、身份问题还是语义问题。

3. 面向GVS范式的数据集：
   全合成视频一方面不断削弱显式的编辑痕迹，另一方面又持续给检测带来生成器多样性、语义不对齐和迁移风险等挑战，对应的评测变化也最快。从早期收集大量全合成视频评估检测正确率，已经发展到像LOKI、GenWorld、DA VID-X、DeeptraceReward等工作，开始将世界模拟、缺陷级标注、人类感知的伪造线索纳入评测体系。

面向视频生成模型诊断的相关评测

检测相关的评估侧资源

。实际上，在CV和世界模型的相关研究中，许多针对的诊断评测，以及针对的评测，同样可以作为检测的重要参照。综述将这些可以作为补充资源的诊断评测工作，按照一个逐步推进的评估链条进行了梳理：

1. 先看视频中的对象、属性、交互和状态变化，

   是否符合基本物理规律
   ；
2. 再看

   世界动态与因果关系
   ，即局部规律能否在整段视频中延展开来，形成连续、连贯、符合世界知识的事件过程；
3. 最后看视频理解模型等系统，能否把这些生成视频中各个层级的错误，

   转化为明确、可理解、可复核的判断
   。

从“能分辨”到“能举证”

高保真AI生成视频正在持续抬高伪造内容的逼真上限。检测任务所面对的问题，已经越来越难用一个简单的真假分数来概括，必须进行事实保真度检测。相应地，评测端和检测系统也需要随着外扩的任务边界一同拓展。

证据优先的动态评测体系

面对新涌现的AI生成的长时间跨度复杂视频，评测需要回答的就不只是“模型会不会分类”，还包括“模型究竟依赖了什么线索，才产生了正判或误判”。粗粒度的评估标签会掩盖大量真正关键的信息。因此，评测中的数据标注、模型训练和结果报告也需要一起往前推进。需要将视频重新拆解回可核验的命题单元组，把“长时序叙事”转化为像事件链、实体状态轨迹或事件图这样可操作的结构化对象，以便在长时间尺度上进行因果与约束验证，从而

。

此外，大多数检测器目前仍在“封闭世界”的设定下被评估。而真实部署场景中，新的视频生成模型、编辑工具和内容风格会持续涌现，不同平台也会引入各自的下采样、转码与滤波流程。为了弥补这一长期的鲁棒性缺口，需要

，将新发布的生成器与新的平台转码链路，以流式的方式纳入评测集合。

协同双视角的可信、可解释检测系统

为了实现前述面向事实忠实性的可解释检测，需要

。一方面，当前视觉语言模型和视频理解模型对“感知保真度”的相关判别能力还比较弱，需要视觉视角的手段来进行补充。另一方面，对于由更强生成模型和反检测手段生成的、在感知上高度保真的视频，我们必须在事实层面，借助语言视角在语义和事实空间进行检测。

更进一步，需要

。这意味着，在上述双链路体系中，每一个工具的调用或知识的引用，都必须。

此外，上述在“内容侧”构成的检测体系，还需要

。最终，形成。

结语

AI视频检测，是一个只会越来越难的任务。

对于未来的AIGC-V检测研究和实际应用而言，这篇综述提供了一套更接近落地需求的地图。它重新界定了AI生成视频检测的任务，提出了“视觉—语言双视角”的四层框架，并据此系统梳理了已有的方法、相关基准和评测指标。同时，将这些层级与真实部署中的挑战、现有评测中的缺口以及正在出现的发展方向联系了起来。

沿着这一框架，它指出了可信检测所需具备的几个关键要求，包括以证据为先、结论可追溯，以及在跨生成器和真实场景条件下保持稳健。

而未来，可信的AI视频检测也很难再由某一个单独的领域独立完成，它正在成为CV、NLP、多模态理解和世界模型研究需要共同面对的交叉议题：CV提供时空证据建模与取证稳健性，NLP提供命题拆解、推理、证据落地与解释能力，多模态与世界模型研究则提供更强的跨模态对齐能力，以及关于物理、因果和时间一致性的更丰富先验。

只有把这些能力真正结合起来，视频检测才能逐步超越对局部伪迹的搜索，走向一种更严格的“真实观”。问题不再只是视频看起来是否可信，而是其中的实体、事件与动态过程，是否始终忠实于真实世界的约束——去追寻那个在虚拟世界和真实世界之间、越来越模糊的边界。