科技头条
morning
我不再相信视觉记录。但有一天我会再次
摘要
In March of this year, a flurry of emails and text messages from a half dozen reporters around the world disrupted my quiet Saturday morning. An Iranian news agency had aired a week-old video of what ...
the
and
that
this
video
was
most
think
presumption
fake
2026-11-21
1 阅读
约4分钟阅读
jnord
字号:
今年三月,来自世界各地六名记者的一连串电子邮件和短信扰乱了我安静的周六早晨。伊朗一家新闻机构播出了一周前的视频,视频中似乎有一枚美国制造的战斧导弹击中了一所学校。新闻报道称,罢工造成超过 175 人死亡,其中大多数是儿童。美国总统和军方否认对此负责。在生成式人工智能和所有深度造假的时代,每个人——包括我——都对视频的真实性表示怀疑。我经常收到这种类型的请求。在过去的三十年里,我一直在开发数学和计算技术来分析和检测数字媒体中的操纵行为。在这段时间里,我认为可以公平地说,我和大多数人一样,以“真实性推定”的方式对待视频录音:如果怀疑论者声称录音是假的,举证责任就在他们身上。然而,在当今生成人工智能的世界中,我认为我们需要将这种立场转变为“造假推定”。也就是说,现在创作者有责任证明其内容是真实的。虽然这种新立场对合法创作者来说似乎不公平,但我认为它既反映了现实,也指出了未来,我们将再次能够相信大多数在线媒体就是它看起来的样子。 Deepfake 检测的法医方法 甚至在去年三月,我就已经倾向于假设是假的。我对记者的最初回应是这样的:“我对这段视频感到怀疑,因为质量很低,它是在爆炸发生几周后才出现的,而且它只是由一家准确报道记录不太好的伊朗新闻机构发布的。”然而,考虑到潜在的影响——如果该视频确实是真实的,我只好在周六早上分析它。我首先推断,如果将战斧导弹以数字方式添加到视频的每一帧而不考虑摄像机运动,我们可能会看到物理上难以置信的导弹路径。因此,我使用固定背景地标作为参考来对齐视频帧。在更新的视频中,导弹实际上确实以近乎线性的轨迹移动。 (参见下面所示的合成图中的黄点。)接下来我询问视频中导弹的尺寸(以像素为单位)是否合理。在一些合理的假设下,我估计视频中的导弹对应的是距离大约100米的6米战斧。从现场来看,这个距离似乎是合理的,而且考虑到声音以每秒 343 米的速度传播,从可见的撞击到听到撞击声有 0.3 秒的延迟。由战斧袭击视频帧组成的合成照片揭示了导弹的轨迹。汉尼·法里德;资料来源:Mehr News 尽管证据越来越多,但我还是很难为记者完善我的答案。我最近与加州大学伯克利分校的同事进行的一项研究加剧了我的怀疑,该研究表明区分真假视频是多么困难。观察者现在对视频普遍持怀疑态度,以至于他们很难说服自己视频是真实的。但经过几个小时和对导弹视频的更多分析,我终于确定它是真实的,并向记者提供了我的最新观点。这次分析对我来说是一个转折点。我意识到我就像我们研究的参与者一样:缺乏伪影并不足以让我轻易相信视频是真实的。我已经从真实的假设转变为虚假的假设。表明视频的出处 当视觉记录不再可靠时,我们能做什么?我日常执行的取证分析类型目前无法以互联网规模和速度运行。但出处信号可以。这些信号包括在创建或记录时插入或嵌入的内容凭证和水印。例如,遵循 C2PA 标准的凭证在拍摄时将经过加密签名的清单附加到照片或视频中;该元数据记录设备、录制时间和位置以及任何后续编辑。由于清单已签名,因此机器稍后可以检测到对内容或其历史记录的任何篡改。水印(例如 Google 的 SynthID)将难以察觉的信号直接嵌入到识别内容来源的像素或音频样本中。苹果公司最近将这些想法更进一步。在一些最新的 iPhone 上,相机传感器可以在捕获的原始像素数据上进行加密签名。然后,该签名数据会被生成参考图像,与普通的可编辑照片一起保存。然后任何人都可以比较两者并准确查看发生了什么变化(如果有的话)。这些来源信号经常被批评为只是部分解决方案或容易受到攻击。如果我们将它们视为捕捉机制,这是正确的
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱