谷歌地球的AI Deepfake工具只持续了一天

谷歌已经关闭了周四推出的谷歌地球功能，该功能允许用户使用人工智能编辑带有文本提示的卫星图像。该工具本质上是让用户使用文本提示创建现实世界的人工智能深度赝品；例如，Digital Digging 的 Henk van Ess 有意生成图像，添加了墨西哥边境附近的难民和加沙一家医院旁的炸弹坑等内容。周四，谷歌对 van Ess 的初步回应指出，谷歌地球中使用 Nano Banana 2 生成的图像包含数字水印，并且该公司阻止“有害主题的图像创建”。一天后，谷歌的新声明表示，“我们知道，人们唯一信任谷歌地球能够提供可靠的世界视图。我们已经看到地理空间专业人士将这一功能用于一系列有用的目的，但我们也看到人们分享了似乎违反我们政策的生成图像的屏幕截图。因此，我们在谷歌地球中回滚这一功能，同时我们致力于实施更强大的护栏。值得注意的是，生成的图像并没有出现在主要的谷歌地球体验中供其他人查看，并且被其他人看到。人工智能生成时带有水印。” van Ess 指出，他能够用 Google Earth 中生成的视频欺骗 Hive 的人工智能检测工具，展示生成的媒体如何在有水印的情况下传播，并在测试中表示，“没有任何内容被拒绝，没有任何内容被软化，也没有任何内容建议我尝试不同的提示。”