谷歌地球 AI 图像生成功能引虚假信息担忧，推出不久即撤回！

谷歌地球 AI 图像生成功能从推出到撤回本周早些时候谷歌在地球网络版上全球推出一项 AI 功能只需一段文字提示就能借助谷歌地球的卫星、航拍和 3D 图像生成以假乱真的图像。谷歌在博客文章中将其宣传为可视化历史遗迹和房地产项目的工具。然而在 7 月 31 日文章发布后谷歌宣布撤回该功能。虚假信息风险AI 图像以假乱真Digital Digging 的亨克·范·埃斯利用该功能生成了如“墨西哥边境附近的难民”以及加沙一家医院附近弹坑等图像。虽然一些生成的图像像将狮身人面像与自由女神像融合的图片很容易被识别为假图但 Nano Banana 2 功能生成的部分图像可能足以以假乱真从而传播虚假信息。相关报道指出“现实正在输掉深度伪造之战”这凸显了该功能带来的潜在危害。而且Digital Digging 利用谷歌地球经 AI 修改的视频成功骗过了 Hive 的 AI 检测器这表明即使谷歌为生成图像添加了 SynthID 数字水印也难以完全杜绝虚假信息的传播水印可能被忽略或绕过。谷歌应对措施与建议针对 Digital Digging 利用 AI 修改的图像谷歌最初回应称严肃对待虚假信息问题。在谷歌地球中使用 Nano Banana 生成的每张图像都带有 SynthID 数字水印若有人对某张图像存疑可以向 Gemini 应用程序询问或使用搜索中的 Lens 功能查看该图像是否由 AI 生成。除了在 Gemini 中使用谷歌的“verifyai”标签来检查可疑图像外范·埃斯还建议将这些图像与其他卫星平台如 Sentinel - 2 或 Landsat的图像进行对比甚至核实图像拍摄时间和拍摄卫星等轨道数据。编辑观点谷歌地球此次 AI 功能推出又撤回反映出在新技术应用中平衡创新与风险的难度。未来需更完善的监管和检测机制避免虚假信息借 AI 泛滥。