AI 内容泛滥，平台过滤功能何时到位？

AI 内容标签标注现状在网上几乎无法避开 AI 生成的内容但其实不必如此。过去一年YouTube、Instagram、TikTok 等平台加大内容认证力度如今很多平台会自动添加标签区分 AI 生成的图像、视频和音乐与人类创作者的作品。过滤 AI 内容的需求与困难如果只是随机浏览到有标签的内容这当然不错但更好的是能够过滤掉这些 AI 垃圾内容。目前的标签标注工作未显著改变内容在网上的呈现方式在 TikTok 或 YouTube 信息流中有些视频描述里会有 AI 相关声明或视频上叠加信息标签。Meta 也在 Facebook 和 Instagram 上给带有 AI 识别元数据或创作者自愿披露信息的图像添加 AI 信息 标签。但想避免看到这类标签内容却极其困难一个过滤器就能解决问题只需一个 AI 复选框来切换。作者联系了 Meta、谷歌、TikTok 和 Spotify询问是否有计划让用户过滤认证过的 AI 内容结果 TikTok 和 Spotify 未回应谷歌无可奉告Meta 也无可引用评论没有一家公司给出肯定答复。现有平台的 AI 内容过滤情况DeviantArt 是唯一带有 AI 内容过滤器的在线平台但其过滤器藏得较深需注册账号将鼠标悬停在页面右上角用户图标上才能找到 AI 内容设置 菜单有 显示 AI 和 抑制 AI 两个选项声称选择 抑制 AI 会看到 更少的 AI 生成或处理过的图像但实际试过并无明显区别且该平台在自动添加 AI 标签方面做得很差。Pinterest 也有类似系统登录账号用户可点击设置图标选择 优化你的推荐再点击 AI 内容 标签切换特定类别禁用选项会看到 更少的 AI 修改内容但实际效果远非完美设置也很难找即便开到最大仍能看到很多有可疑 AI 痕迹的图片。平台引入过滤器的效果与问题如果 YouTube 或 Instagram 等平台引入 AI 内容过滤器效果可能不佳但这会暴露平台采用的无效 解决方案这些方案对解决区分 AI 虚假内容与真实作品的实际问题作用不大。平台也知道这是个问题Instagram 负责人亚当·莫塞里去年 12 月表示在 AI 生成内容兴起背景下真实性正成为一种稀缺资源。谷歌 CEO 桑达尔·皮查伊也承认网上有很多 AI 垃圾内容网络用户需要 适应它所以大家希望平台提供过滤器。现有 AI 内容识别方法的问题像 C2PA 和 SynthID 这类基于来源的系统通过嵌入元数据或隐形水印工作但很多开源 AI 模型不这么做且元数据易去除方法不可靠。基于检测的方法通过分析模式评估是否由 AI 生成可能产生误判目前这些方法都无法大规模有效运作。平台的态度与替代方法包括 OpenAI 等 AI 供应商在内的公司宣扬 AI 标签解决方案能防止人们被虚假内容欺骗但如果监管机构发现方案无效平台和供应商可能需找有效解决方案。平台会辩称大力推行标签标注计划可能错误标记真实内容Meta 和 YouTube 都有过此类惨痛教训所以应寻找更好的解决方案这有助于改善用户体验抵御竞争。作者提出疑问为何不能举报未标注的 AI 垃圾内容考虑到问题严重性需要大量人工审核人员但在科技巨头用 AI 取代人工时能否回头雇佣人工解决问题存疑。给 AI 生成内容贴标签的替代方法是给经过验证的人类创作者贴标签这虽不一定能识别合成内容但能少看到低质量内容农场的作品Instagram 的莫塞里和 Spotify 都有类似设想和做法。呼吁平台提供有效过滤器Meta、Spotify 和谷歌既托管 AI 内容又开发创造工具它们坚称并非所有 AI 内容都是垃圾允许用户过滤与平台从 AI 获利的努力背道而驰。作者恳求在线平台证明其 AI 标签标注努力并非白费希望平台提供基本的 无 AI 或 经过验证的人类创作者 过滤器以便评判实际效果。