雷递网 雷建平 3月20日在大模型厂商如日中天之际AI的不可靠性也正在暴露。许多用户开始回流到传统搜索百度搜索正迎来一场价值回归。AI大模型擅长脑补 用看似合理的逻辑填补空白近期央视315晚会曝光了AI大模型被“投毒”的黑色产业链其中一款名为“力擎GEO优化系统”的软件被点名相关软件被指通过批量生成和分发虚假内容操纵AI大模型的信息来源从而影响模型输出结果。这些虚假内容被发布到互联网上经过一段时间传播后被多家AI大模型抓取并引用最终在相关问题中给出了带有推荐性质的回答。这一过程被业内称为对AI模型进行“投毒”即通过人为制造并扩散虚假信息源影响模型在检索和生成过程中的内容判断。比如一家公司只花了几十元购买软文服务几天之内这款从未存在过的产品就成为了多个AI搜索平台的标准答案。当用户询问最好的空气净化器品牌时AI会自然而然地推荐这款虚构产品。这就是GEO生成式引擎优化黑产的运作模式服务商利用AI的幻觉缺陷通过系统性投喂虚假信息让AI沦为商家的营销傀儡。更可怕的是这种投毒具有自我强化效应——当多个账号在不同平台发布相同虚假内容时AI会误判这是广泛传播的社会共识从而提升其权重。据央视报道这类灰产已形成完整产业链内容农场批量生产虚假测评账号矩阵全网分发AI爬虫抓取后纳入训练最终成为用户眼中的权威答案。广告与内容的界限被彻底模糊用户却浑然不觉。这不是技术漏洞而是对信任的系统性劫持。当AI以客观理性的面貌出现时很少有人会质疑它的答案来源。而GEO黑产正是利用了这种认知偏差将虚假信息包装成知识共识。AI大模型被“投毒”黑色产业链被曝光后引发大量用户吐槽并开始怀念百度一下的准确性。实际上AI先天就有缺陷聪明但不可信。AI的幻觉问题也并非新鲜事很多时候问一个问题AI大模型也给出解答但作为一个专业人士很容易发现AI大模型很多时候会一本正经地“胡说八道”。AI擅长脑补——当信息不足时它会用看似合理的逻辑填补空白。而且当你问AI一个问题它不会告诉你这个结论来自哪篇论文、哪家媒体、哪个专家。它只是一个黑箱输出一个看似合理的答案。很多人无法验证只能盲信。这些AI大模型的缺陷在AI狂飙突进的2024年到2025年被暂时掩盖了。如今随着AI大模型变成了国民应用这类问题已经变得不可忽视。AI大模型没有一个明确的信源链条也就没有一个责任主体。无法溯源无法追责。如果AI给出了错误的投资建议、错误的医疗信息、错误的法律解读都无法找到人来负责。比如演员刘美含在配音时遇到铸币坊中坊字读音问题。她先后测试百度AI、DeepSeek、元宝、豆包、通义千问等5款AI工具百度AI给出的答案是fáng二声——这是正确答案DeepSeek、元宝、通义千问都给出错误的fāng一声豆包在不同时间查询时给出不同结果不稳定。刘美含最终通过《新华词典》App验证确认正确读音为fáng二声南京师范大学文学院教授化振红确认现代汉语中坊字一声表示街巷、店铺二声指小手工业生产场所铸币坊为造币场所正确读音为fáng二声。当用户发现自己信任的AI连一个字的读音都搞不定时信任的裂缝就开始显现了。百度一下被重新发现的价值AI的信任危机为百度搜索创造了一个价值回归的窗口期。当AI的不可靠性暴露时许多用户开始回流到传统搜索。这种回流并非怀旧而是对可信信息的刚性需求在驱动。百度搜索在这场信任危机中有着难以被GEO黑产复制的优势权威信源的防火墙机制比如百度百科的内容准入机制在AI时代反而成了稀缺能力。所有词条内容必须提供权威参考资料比如315曝光的那种自媒体随便发布的测评、UGC内容不会被采纳。百度百科内容先审后发机审人审双重流程特殊身份信息还需高级别审核员二次核验。相比AI模型的黑箱生成百度搜索还可强化对权威持牌媒体的权重倾斜这是GEO灰产难以污染的部分。百度AI答案的背后有三道严格的过滤机制多源比对全维度身份核验。系统自动抓取发布时间、作者权威度、站点信誉等特征只有来自权威专业领域、时效性强的信息源才有资格进入候选池。先筛再用多源交叉验证。不采信单一、片面的内容同一个结论至少有多个可信来源支撑才会被采用。实时巡检实时纠偏兜底。秒级响应的自动巡检系统一旦发现内容偏差立即介入干预。这套机制的核心逻辑是宁可慢也要准宁可少也要真。这与追求即时生成的AI大模型形成了本质差异。近期OpenClaw是全球爆火的智能体操作系统其SkillAI智能体的App市场中百度搜索Skill已成为全球下载量第一的搜索引擎官方技能插件。开发者的反馈很直接搜索类Skill是智能体的基础设施决定了整个智能体应用的智商下限。百度搜索之所以被选择是因为它更懂中文权威信息具备信息安全背书且提供免费额度。如今的百度可以从信息入口到信任入口搜索的终极价值不是提供信息而是降低用户的决策成本。在信息过载且真伪难辨的时代可信比全面更重要溯源比便捷更珍贵。百度需要强化其可验证性优势——不仅给出答案还要清晰展示答案的来源链条、信源权重、验证过程。让用户知道这个结论为什么可信而不是被迫盲信。当然百度搜索依然有非常多的诟病比如过往的百度竞价排名过度的商业化影响了百度的口碑重建品牌需要时间在这个大模型的时代百度不如刻骨疗伤真正进行一场更深度的商业变革另一方面是百度搜索这些年在技术层面还需要更大努力去提升技术水平真正解决用户的痛点让搜索变得更加可用。此外百度搜索的内容非常难以被用户拷贝因为内容中会有大量乱码严重影响了用户体验。在大模型的时候百度这种内容中植入乱码的行为已经不合时宜。当用户习惯用大模型进行搜索时百度搜索也需要适应这种转变用AI增强搜索用搜索约束AI在AI时代重新定义可信信息的标准而不是退回传统搜索。———————————————雷递由媒体人雷建平创办若转载请写明来源。
AI被“投毒”，“百度一下”含金量却在上升
雷递网 雷建平 3月20日在大模型厂商如日中天之际AI的不可靠性也正在暴露。许多用户开始回流到传统搜索百度搜索正迎来一场价值回归。AI大模型擅长脑补 用看似合理的逻辑填补空白近期央视315晚会曝光了AI大模型被“投毒”的黑色产业链其中一款名为“力擎GEO优化系统”的软件被点名相关软件被指通过批量生成和分发虚假内容操纵AI大模型的信息来源从而影响模型输出结果。这些虚假内容被发布到互联网上经过一段时间传播后被多家AI大模型抓取并引用最终在相关问题中给出了带有推荐性质的回答。这一过程被业内称为对AI模型进行“投毒”即通过人为制造并扩散虚假信息源影响模型在检索和生成过程中的内容判断。比如一家公司只花了几十元购买软文服务几天之内这款从未存在过的产品就成为了多个AI搜索平台的标准答案。当用户询问最好的空气净化器品牌时AI会自然而然地推荐这款虚构产品。这就是GEO生成式引擎优化黑产的运作模式服务商利用AI的幻觉缺陷通过系统性投喂虚假信息让AI沦为商家的营销傀儡。更可怕的是这种投毒具有自我强化效应——当多个账号在不同平台发布相同虚假内容时AI会误判这是广泛传播的社会共识从而提升其权重。据央视报道这类灰产已形成完整产业链内容农场批量生产虚假测评账号矩阵全网分发AI爬虫抓取后纳入训练最终成为用户眼中的权威答案。广告与内容的界限被彻底模糊用户却浑然不觉。这不是技术漏洞而是对信任的系统性劫持。当AI以客观理性的面貌出现时很少有人会质疑它的答案来源。而GEO黑产正是利用了这种认知偏差将虚假信息包装成知识共识。AI大模型被“投毒”黑色产业链被曝光后引发大量用户吐槽并开始怀念百度一下的准确性。实际上AI先天就有缺陷聪明但不可信。AI的幻觉问题也并非新鲜事很多时候问一个问题AI大模型也给出解答但作为一个专业人士很容易发现AI大模型很多时候会一本正经地“胡说八道”。AI擅长脑补——当信息不足时它会用看似合理的逻辑填补空白。而且当你问AI一个问题它不会告诉你这个结论来自哪篇论文、哪家媒体、哪个专家。它只是一个黑箱输出一个看似合理的答案。很多人无法验证只能盲信。这些AI大模型的缺陷在AI狂飙突进的2024年到2025年被暂时掩盖了。如今随着AI大模型变成了国民应用这类问题已经变得不可忽视。AI大模型没有一个明确的信源链条也就没有一个责任主体。无法溯源无法追责。如果AI给出了错误的投资建议、错误的医疗信息、错误的法律解读都无法找到人来负责。比如演员刘美含在配音时遇到铸币坊中坊字读音问题。她先后测试百度AI、DeepSeek、元宝、豆包、通义千问等5款AI工具百度AI给出的答案是fáng二声——这是正确答案DeepSeek、元宝、通义千问都给出错误的fāng一声豆包在不同时间查询时给出不同结果不稳定。刘美含最终通过《新华词典》App验证确认正确读音为fáng二声南京师范大学文学院教授化振红确认现代汉语中坊字一声表示街巷、店铺二声指小手工业生产场所铸币坊为造币场所正确读音为fáng二声。当用户发现自己信任的AI连一个字的读音都搞不定时信任的裂缝就开始显现了。百度一下被重新发现的价值AI的信任危机为百度搜索创造了一个价值回归的窗口期。当AI的不可靠性暴露时许多用户开始回流到传统搜索。这种回流并非怀旧而是对可信信息的刚性需求在驱动。百度搜索在这场信任危机中有着难以被GEO黑产复制的优势权威信源的防火墙机制比如百度百科的内容准入机制在AI时代反而成了稀缺能力。所有词条内容必须提供权威参考资料比如315曝光的那种自媒体随便发布的测评、UGC内容不会被采纳。百度百科内容先审后发机审人审双重流程特殊身份信息还需高级别审核员二次核验。相比AI模型的黑箱生成百度搜索还可强化对权威持牌媒体的权重倾斜这是GEO灰产难以污染的部分。百度AI答案的背后有三道严格的过滤机制多源比对全维度身份核验。系统自动抓取发布时间、作者权威度、站点信誉等特征只有来自权威专业领域、时效性强的信息源才有资格进入候选池。先筛再用多源交叉验证。不采信单一、片面的内容同一个结论至少有多个可信来源支撑才会被采用。实时巡检实时纠偏兜底。秒级响应的自动巡检系统一旦发现内容偏差立即介入干预。这套机制的核心逻辑是宁可慢也要准宁可少也要真。这与追求即时生成的AI大模型形成了本质差异。近期OpenClaw是全球爆火的智能体操作系统其SkillAI智能体的App市场中百度搜索Skill已成为全球下载量第一的搜索引擎官方技能插件。开发者的反馈很直接搜索类Skill是智能体的基础设施决定了整个智能体应用的智商下限。百度搜索之所以被选择是因为它更懂中文权威信息具备信息安全背书且提供免费额度。如今的百度可以从信息入口到信任入口搜索的终极价值不是提供信息而是降低用户的决策成本。在信息过载且真伪难辨的时代可信比全面更重要溯源比便捷更珍贵。百度需要强化其可验证性优势——不仅给出答案还要清晰展示答案的来源链条、信源权重、验证过程。让用户知道这个结论为什么可信而不是被迫盲信。当然百度搜索依然有非常多的诟病比如过往的百度竞价排名过度的商业化影响了百度的口碑重建品牌需要时间在这个大模型的时代百度不如刻骨疗伤真正进行一场更深度的商业变革另一方面是百度搜索这些年在技术层面还需要更大努力去提升技术水平真正解决用户的痛点让搜索变得更加可用。此外百度搜索的内容非常难以被用户拷贝因为内容中会有大量乱码严重影响了用户体验。在大模型的时候百度这种内容中植入乱码的行为已经不合时宜。当用户习惯用大模型进行搜索时百度搜索也需要适应这种转变用AI增强搜索用搜索约束AI在AI时代重新定义可信信息的标准而不是退回传统搜索。———————————————雷递由媒体人雷建平创办若转载请写明来源。
