2026年3月18日20:51:58 来源界面新闻界面新闻记者|程璐界面新闻编辑|文姝琪3月15日晚上央视315晚会的曝光撕开了“AI投毒”这个隐秘产业的口子。记者通过暗访发现原来用户在AI对话框里敲下一个问题得到的那个看似公允的答案可能早就被人在后台精心设计过了。这场曝光揭开了GEO产业链界面新闻也曾报道过其背后的乱象与本质。有人专门向AI大模型“投毒”批量制造虚假的测评、虚构的排行榜甚至凭空捏造出一款根本不存在的智能手环然后通过自动化软件把内容铺满互联网的角落。只需要半天时间一款虚构的“Apollo-9”的智能手环产品就能出现在主流AI的推荐列表里带着那些夸张的“量子纠缠传感”功能一本正经地欺骗消费者。杭州万悉科技创始人毛慧娜和不少从业者的反应一样刚刚看到315的曝光新闻时不是惊讶而是欣慰。万悉科技主要服务中国品牌出海一直专注在GEO领域三个月前A股还炒起过一轮GEO的概念当时她就对外表达过担忧觉得这个赛道有点过火了。今天315批评“AI投毒”她觉得这是行业发展的必然终于有人把行业的遮羞布掀开了。一位AI行业研究机构负责人也表达了类似的观点他告诉界面新闻本质上这是AI行业野蛮生长过程中阶段性问题的集中暴露。由于AI正在成为用户的消费决策入口因此它天然会成为黑灰产盯上的对象其他领域也是一样。多数从业者认为接下来短期内低质、靠投毒为生的服务公司将会迎来一轮洗牌相关治理和监管会逐步跟上行业也会越来越重视真实、可靠、权威的信息源。长期来看这是一件好事。截至当前有赞、小裂变、河南恒辉、AB客等多家机构都已经发布声明称不会使用这类投毒行为但各家的表态都停留在普通承诺的层面具体在执行操作以及规范的程序还待观望。央视曝光后界面新闻联系了几家主流大模型公司但各家均暂无回应。这其实引出了一个更本质的问题。既然投毒污染的是网络环境那模型公司在其中到底应该扮演什么角色他们能做什么又愿意做什么从产业环境分工来看模型公司更多是在提供“大脑”核心是让模型越来越聪明而后延伸出应用层以及中间的工具层等等。一位技术出身GEO创业者告诉记者技术的污名化从来不是技术本身的错更多服务商污染的只是整个网络信息环境和模型公司关系不大。但上述AI行业研究机构负责人不完全同意这样的观点他补充道大模型并不是在真空中工作的无论是训练、检索还是应用调用最终都要依赖外部数据、知识和信息供给。一旦网络环境中的信息被操纵、灌水或者伪造这种影响最终还是会传导到AI产品上影响用户体验和用户信任。GEO服务商索引未来的市场负责人任玉坤同时提到接下来平台可能需要对内容质量或索引方法进行调整尽量避免引用低质量文章。因此可能会受到信息污染的模型公司不应完全置身事外而是参与治理。比如在数据筛选、结果校验、来源标注、多源验证、异常识别等方面模型公司都可以持续投入提升AI系统对低质量信息和被操纵信息的识别能力。眼下GEO这个生态还处在野蛮生长的阶段。在帮助品牌出海的过程中毛慧娜接触的大模型很多从ChatGPT到Gemini到Claude还有国内的豆包、千问和DeepSeek。但她发现不同模型之间的差异巨大。比如某客户曾经询问过AI一项关于品牌未公开数据的问题结果某些模型就会回答称没有公开信息但某些大模型就会给出一个具体的答案。最终经过仔细排查发现该模型在搜索全网后用相似的品牌信息做了“顶替”。AI问答引擎背后主要有两部分技术。一块是大语言模型本身的参数记忆模型每隔一段时间预训练一次把知识存在参数里不用联网也能回答。另一块是RAG即联网搜索模型会实时去看外部的信息。在毛慧娜看来国内“AI投毒”的突出问题主要出在联网搜索这个环节相关平台对信息源的筛选能力急需提高模型对语义理解的严谨度也远远不够。“模型层不够智能语义理解不到位对信息源的筛选也不够中立甚至会出现偏向自己生态内容的情况这本身就不够公允也都是未来模型公司要解决的问题。”毛慧娜表示。要解决投毒问题光盯着服务商和模型公司也是不够的还需要上下游共同解决。商家需要摆正位置。那些投毒的服务商能活下来本质上是商家太急于求成。毛慧娜说她很少接那种承诺几天甚至几个小时就要见效的客户她也没想到有服务商敢这么承诺直到看了315报道才知道原来市场上是这么沟通的。另外用户层也要学会辨别不要盲信AI的推荐要去看AI引用的信息源是什么是否靠谱。一位从业者向界面新闻分享了当前业内正在探索的治理思路。第一种是当品牌说真话比如宣称产品通过了某质量认证而权威数据库里确实能查到这条记录。这时候AI会采信这个信息给它正常的权重。第二种是当品牌说假话明明没有通过认证却说有。AI在查询数据库后发现信息对不上就会把这条内容标记为幻觉或虚假信息权重直接降到接近于零。甚至让整个品牌的信任评分都会下降竞品的相对位置反而上升。这种标记行为听起来相对理想但上述从业者也承认最终还是要靠平台来落地是一个长期的构想方向。上述AI行业研究机构负责人预测未来AI生态里工具技能和信息数据会是两个非常典型的方向。这两类能力都有一个共同特点就是前期投入很大但一旦形成能力边际成本会越来越低规模化价值会越来越明显服务商和大模型公司不是割裂的而是共生的都是生态的一部分。接下来品牌怎么做平台怎么治理监管怎么管生态如何演进才是真正考验的开始。
315曝光GEO之后，模型公司对“AI投毒”能否置身事外？
2026年3月18日20:51:58 来源界面新闻界面新闻记者|程璐界面新闻编辑|文姝琪3月15日晚上央视315晚会的曝光撕开了“AI投毒”这个隐秘产业的口子。记者通过暗访发现原来用户在AI对话框里敲下一个问题得到的那个看似公允的答案可能早就被人在后台精心设计过了。这场曝光揭开了GEO产业链界面新闻也曾报道过其背后的乱象与本质。有人专门向AI大模型“投毒”批量制造虚假的测评、虚构的排行榜甚至凭空捏造出一款根本不存在的智能手环然后通过自动化软件把内容铺满互联网的角落。只需要半天时间一款虚构的“Apollo-9”的智能手环产品就能出现在主流AI的推荐列表里带着那些夸张的“量子纠缠传感”功能一本正经地欺骗消费者。杭州万悉科技创始人毛慧娜和不少从业者的反应一样刚刚看到315的曝光新闻时不是惊讶而是欣慰。万悉科技主要服务中国品牌出海一直专注在GEO领域三个月前A股还炒起过一轮GEO的概念当时她就对外表达过担忧觉得这个赛道有点过火了。今天315批评“AI投毒”她觉得这是行业发展的必然终于有人把行业的遮羞布掀开了。一位AI行业研究机构负责人也表达了类似的观点他告诉界面新闻本质上这是AI行业野蛮生长过程中阶段性问题的集中暴露。由于AI正在成为用户的消费决策入口因此它天然会成为黑灰产盯上的对象其他领域也是一样。多数从业者认为接下来短期内低质、靠投毒为生的服务公司将会迎来一轮洗牌相关治理和监管会逐步跟上行业也会越来越重视真实、可靠、权威的信息源。长期来看这是一件好事。截至当前有赞、小裂变、河南恒辉、AB客等多家机构都已经发布声明称不会使用这类投毒行为但各家的表态都停留在普通承诺的层面具体在执行操作以及规范的程序还待观望。央视曝光后界面新闻联系了几家主流大模型公司但各家均暂无回应。这其实引出了一个更本质的问题。既然投毒污染的是网络环境那模型公司在其中到底应该扮演什么角色他们能做什么又愿意做什么从产业环境分工来看模型公司更多是在提供“大脑”核心是让模型越来越聪明而后延伸出应用层以及中间的工具层等等。一位技术出身GEO创业者告诉记者技术的污名化从来不是技术本身的错更多服务商污染的只是整个网络信息环境和模型公司关系不大。但上述AI行业研究机构负责人不完全同意这样的观点他补充道大模型并不是在真空中工作的无论是训练、检索还是应用调用最终都要依赖外部数据、知识和信息供给。一旦网络环境中的信息被操纵、灌水或者伪造这种影响最终还是会传导到AI产品上影响用户体验和用户信任。GEO服务商索引未来的市场负责人任玉坤同时提到接下来平台可能需要对内容质量或索引方法进行调整尽量避免引用低质量文章。因此可能会受到信息污染的模型公司不应完全置身事外而是参与治理。比如在数据筛选、结果校验、来源标注、多源验证、异常识别等方面模型公司都可以持续投入提升AI系统对低质量信息和被操纵信息的识别能力。眼下GEO这个生态还处在野蛮生长的阶段。在帮助品牌出海的过程中毛慧娜接触的大模型很多从ChatGPT到Gemini到Claude还有国内的豆包、千问和DeepSeek。但她发现不同模型之间的差异巨大。比如某客户曾经询问过AI一项关于品牌未公开数据的问题结果某些模型就会回答称没有公开信息但某些大模型就会给出一个具体的答案。最终经过仔细排查发现该模型在搜索全网后用相似的品牌信息做了“顶替”。AI问答引擎背后主要有两部分技术。一块是大语言模型本身的参数记忆模型每隔一段时间预训练一次把知识存在参数里不用联网也能回答。另一块是RAG即联网搜索模型会实时去看外部的信息。在毛慧娜看来国内“AI投毒”的突出问题主要出在联网搜索这个环节相关平台对信息源的筛选能力急需提高模型对语义理解的严谨度也远远不够。“模型层不够智能语义理解不到位对信息源的筛选也不够中立甚至会出现偏向自己生态内容的情况这本身就不够公允也都是未来模型公司要解决的问题。”毛慧娜表示。要解决投毒问题光盯着服务商和模型公司也是不够的还需要上下游共同解决。商家需要摆正位置。那些投毒的服务商能活下来本质上是商家太急于求成。毛慧娜说她很少接那种承诺几天甚至几个小时就要见效的客户她也没想到有服务商敢这么承诺直到看了315报道才知道原来市场上是这么沟通的。另外用户层也要学会辨别不要盲信AI的推荐要去看AI引用的信息源是什么是否靠谱。一位从业者向界面新闻分享了当前业内正在探索的治理思路。第一种是当品牌说真话比如宣称产品通过了某质量认证而权威数据库里确实能查到这条记录。这时候AI会采信这个信息给它正常的权重。第二种是当品牌说假话明明没有通过认证却说有。AI在查询数据库后发现信息对不上就会把这条内容标记为幻觉或虚假信息权重直接降到接近于零。甚至让整个品牌的信任评分都会下降竞品的相对位置反而上升。这种标记行为听起来相对理想但上述从业者也承认最终还是要靠平台来落地是一个长期的构想方向。上述AI行业研究机构负责人预测未来AI生态里工具技能和信息数据会是两个非常典型的方向。这两类能力都有一个共同特点就是前期投入很大但一旦形成能力边际成本会越来越低规模化价值会越来越明显服务商和大模型公司不是割裂的而是共生的都是生态的一部分。接下来品牌怎么做平台怎么治理监管怎么管生态如何演进才是真正考验的开始。
