FractalForensics能否终结ACM MM 2025深度伪造检测难题？

摘要： ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics：基于分形水印的主动深度伪造检测与定位 核心亮点速览 FractalForensics: A...

ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics：基于分形水印的主动深度伪造检测与定位

核心亮点速览

• FractalForensics: Active Deepfake Detection and Localization via Fractal Watermarking
• 提出机构: 新加坡国立大学
• 会议: ACM Multimedia 2025 (Oral Presentation)
• 核心思想: 首次提出一种主动防御框架，在视频生成过程中嵌入一种人眼不可见但算法可检测的“分形水印”，该水印不仅能够以极高的准确率检测视频是否为AI生成（检测），还能精确定位出视频中被篡改或合成的具体区域（定位）。
• 深度伪造、主动防御、数字水印、分形几何、检测与定位、AI安全

背景与挑战：为什么需要FractalForensics？

随着生成式AI（如Sora, Pika, Stable Diffusion Video）的飞速发展，“深度伪造”（Deepfake）技术门槛越来越低，其生成的视频也越来越逼真，这带来了巨大的社会风险,包括：

1. 虚假信息传播: 伪造公众人物言论,引发社会恐慌或政治动荡。
2. 名誉诽谤与敲诈: 制作不雅视频进行勒索或恶意中伤。
3. 金融欺诈: 伪造身份进行金融交易。
4. 信任危机: 破坏社会对媒体和信息的信任基础。

现有被动检测技术的局限性：

目前大多数深度伪造检测技术属于“被动防御”，即在伪造视频已经传播开来之后，才去分析和识别它们,这种方法存在致命弱点：

• 滞后性: 总是慢于伪造技术的发展，属于“猫鼠游戏”。
• 脆弱性: 对抗性攻击（如微调、压缩、添加噪声）很容易让检测模型失效。
• 定位困难: 大多数检测模型只能给出“真/假”的二分类结果，无法告诉用户视频的“哪里”是假的,缺乏实用性。

学术界和工业界迫切需要一种能够主动、鲁棒、且能提供溯源信息的防御方案。FractalForensics正是为了解决这些痛点而提出的。

核心技术：FractalForensics如何工作？

FractalForensics的核心在于将“分形几何”理论与“数字水印”技术相结合，创造一种全新的主动防御范式，其工作流程分为两个阶段：水印嵌入和水印检测。

水印嵌入 - 在生成端主动植入“基因”

这个阶段的目标是在AI模型生成视频的源头就植入一个独特的、难以移除的“身份标识”。

1. 分形水印设计:

   • 什么是分形？ 分形是一种在不同尺度上表现出自相似性的几何图形，著名的例子如科赫雪花、谢尔宾斯基三角形，分形具有尺度不变性和结构复杂性的特点。
   • 为什么用分形？ 作者巧妙地利用了分形的这些特性：
     • 鲁棒性: 视频的压缩、裁剪、噪声等攻击，往往只影响分形的局部细节，但其核心的自相似结构很难被完全破坏，这使得水印非常“抗折腾”。
     • 信息容量: 分形可以编码大量的信息（一个简化的分形树可以代表一个唯一的ID）。
     • 隐蔽性: 通过将分形图案的强度调至极低，可以使其人眼完全不可见,但对算法高度敏感。

2. 嵌入过程:

   • 输入: AI视频生成模型（如Stable Diffusion）的潜在空间表示，在潜在空间中操作,比在像素空间中嵌入对视频质量的影响更小。
   • 操作: 设计一个分形生成器，根据一个唯一的密钥生成一个特定的分形图案，将这个分形图案作为一个微弱的信号，加到视频的每一帧（或关键帧）的潜在表示中。
   • 输出: 带有分形水印的AI生成视频，对于普通观众来说，视频质量几乎没有下降，但已经“被动了手脚”。

水印检测 - 在分析端精准“验明正身”

这个阶段的目标是接收一个视频，并快速判断它是否含有预设的分形水印,以及水印的位置。

1. 检测与定位算法:

   • 输入: 待检测的视频和一个秘密密钥（与嵌入时使用的密钥匹配）。
   • 操作:
     • 相关性分析: 检测器使用相同的密钥重新生成预期的分形图案。
     • 滑动窗口匹配: 将这个预期的分形图案作为一个“模板”，在待检测视频的帧上滑动，对于窗口内的每一个小区域，计算该区域的像素/特征与分形模板的相关性。
     • 生成热力图: 将相关性最高的区域标记出来，生成一个“伪造概率热力图”，热力图中越“热”（红色）的区域，表示它与分形水印的匹配度越高，即是AI生成的可能性越大。

2. 输出:

   • 检测结果: 一个二值标签（真实/伪造）。
   • 定位结果: 一张可视化的热力图，精确圈出视频中被篡改或合成的区域，在一张伪造的肖像视频中，热力图会清晰地显示出人脸部分是“热”的，而背景部分是“冷”的（真实）。

创新点与优势

1. 首创“主动防御”范式: 从根本上改变了“被动检测”的被动局面，将防御前置到内容生成源头，实现了“防患于未然”。
2. 检测与定位一体化: 不仅能判断真伪，还能提供像素级的定位信息，极大提升了技术的实用价值,便于内容审核和事实核查。
3. 极高的鲁棒性: 基于分形的水印设计，使其对各种常见的后处理攻击（如JPEG压缩、高斯噪声、缩放、裁剪等）表现出极强的抵抗力，实验表明，即使在视频质量严重下降的情况下,依然能成功检测和定位。
4. 与生成模型解耦: 该水印嵌入框架可以与多种主流的视频生成模型（如扩散模型）集成,具有很强的通用性。
5. 低视觉影响: 通过在潜在空间嵌入微弱信号,确保了加水印后的视频在视觉质量上与原始视频几乎无差别。

潜在影响与未来展望

FractalForensics的提出，为深度伪造治理提供了一个全新的、强有力的技术路径。

• 平台的意义: 平台可以在引入第三方AI生成内容时，强制要求其嵌入带有特定密钥的分形水印，平台只需部署一个轻量级的检测器,即可对所有上传内容进行快速筛查和溯源。
• 对AI模型开发者的意义: 这可以成为一种行业标准，鼓励负责任的AI开发，开发者可以在其模型中集成水印模块，作为产品的一个“诚信”标签。
• 对监管机构的意义: 提供了客观、可量化的技术手段,用于打击和取证深度伪造相关的违法犯罪活动。

未来的研究方向可能包括：

• 更强的对抗防御: 研究如何抵御专门针对这种分形水印的“反水印”攻击。
• 动态水印: 设计会随时间变化或与内容动态结合的水印,增加破解难度。
• 跨模态水印: 将分形水印技术扩展到图像、音频和文本等其他模态的AI生成内容上。

新加坡国立大学提出的FractalForensics，通过创造性地融合分形几何和数字水印技术，为深度伪造问题提供了一个优雅而强大的主动防御解决方案，它不仅实现了高精度的检测，更提供了前所未有的像素级定位能力，标志着我们在应对AI生成内容带来的安全挑战上，迈出了从“被动识别”到“主动免疫”的关键一步,这项技术无疑将对未来的AI内容生态安全和可信计算产生深远影响。