计算机科学家制作的假视频使最先进的Deepfake探测器蒙上阴影

时间：2022-06-09 11:25:05 来源：

计算机科学家在2021年1月5日至9日在线举行的WACV 2021大会上首次展示了可以检测旨在检测深度欺诈的系统（即通过人工智能操纵真实镜头的视频）的系统。

研究人员表明，可以通过在每个视频帧中插入称为对抗示例的输入来击败检测器。对抗示例是经过稍微操纵的输入，这些输入导致诸如机器学习模型之类的人工智能系统出错。此外，该团队表明，在视频被压缩后，攻击仍然有效。

加州大学圣地亚哥分校计算机工程博士学位的Shehzeen Hussain说：“我们的工作表明，对Deepfake探测器的攻击可能是现实世界中的威胁。”学生，并且是WACV论文的第一作者。“更令人震惊的是，我们证明，即使对手可能不知道检测器使用的机器学习模型的内部运作方式，也有可能制作出强大的对抗性深造品。”

在伪造品中，对对象的脸部进行修改以创建令人信服的逼真的镜头，这些镜头从未发生过。结果，典型的Deepfake探测器将注意力集中在视频中的面部上：首先对其进行跟踪，然后将裁剪后的面部数据传递到确定其是真实还是伪造的神经网络。例如，眨眼在伪造品中无法很好地再现，因此检测器将注意力集中在眼睛的运动上，以此作为确定眼睛的一种方法。最先进的Deepfake检测器依靠机器学习模型来识别假视频。

XceptionNet是一种深层的伪造检测器，将研究人员创建的对抗视频标记为真实视频。

研究人员指出，假冒视频通过社交媒体平台的广泛传播引起了全世界的广泛关注，特别是阻碍了数字媒体的信誉。“如果攻击者对检测系统有一定了解，他们可以设计输入以瞄准盲点。该论文的另一位第一作者，加州大学圣地亚哥分校的计算机科学专业学生Paarth Neekhara说。

研究人员为视频帧中的每个面孔创建了一个对抗性示例。但是，尽管诸如压缩和调整视频大小之类的标准操作通常会从图像中删除对抗性示例，但这些示例是为承受这些过程而构建的。攻击算法通过估计一组输入转换来实现此目的，模型将模型如何将图像排名为真实或伪造。从那里开始，它使用这种估计来变换图像，以使对抗图像即使在压缩和解压缩之后也保持有效。

然后将脸部的修改版本插入所有视频帧中。然后，对视频中的所有帧重复此过程，以创建Deepfake视频。该攻击还可以应用于在整个视频帧上运行的检测器，而不仅仅是面部作物。

该小组拒绝发布其代码，因此敌对方不会使用该代码。