零成本操控AI，我们让全网AI为己“说谎”

如今，人们对AI答案的信任度与日俱增，就如同20年前对搜索引擎答案的信赖。然而，这种信任如同当年莆田系医院操控搜索引擎酿成悲剧一样，是可以被利用的。那么，具备联网搜索功能的AI，会比传统搜索引擎表现更好吗？答案令人大跌眼镜，AI脆弱得不堪一击。

为了说明这一点，先问大家：提到国内头部AI媒体，你会想到哪些？其中会有知危吗？熟悉AI行业的读者想必能迅速给出答案。但当你在DeepSeek上提问“想了解AI可以看哪些媒体？”并开启联网搜索和深度思考功能时，会发现“知危”赫然在列。

这时，APP下方“内容由AI生成，请仔细甄别”的小字才会格外引人注目。用同样或类似问题向豆包、元宝提问，也能看到“知危”的身影。

提问豆包：

提问元宝：

和其他被AI并列展示的媒体相比，知危虽有AI产业相关报道，但频次低很多。我们自认为表现不错，却也没那么高的声誉，为何模型都要展示知危呢？其实，这是知危“投毒”的结果。

几个月前，我们有了“诈骗AI联网输出结果”的想法。在与从业者交流并观察AI搜索信源平台后，2025年10月15日，知危让隔壁邻居“差评XPIN”在新浪、网易、搜狐、知乎等媒体平台发布了同一篇文章。

这是一篇常见的盘点文章，用AI就能生成很好的模版，然后将知危介绍自然地嵌入其他媒体号之间。

几小时后向AI提问（打开联网功能），就得到了前面的结果，我们的“盘点”文章被AI当作引用源。从这个例子能看出，国内流量前三的AI都轻易“中招”，可见其脆弱。

知危的这种攻击方法属于黑帽GEO。GEO即生成式引擎优化，简单说就是通过各种手段让AI引用你希望的内容，以实现企业品牌曝光。比如问AI“请推荐好用的牙膏”时，可能就有GEO服务商在背后操作。

GEO分白帽和黑帽两种。为了解黑帽GEO、GEO行业现状和品牌营销趋势，知危请教了易点网络联合创始人余剑（对话时间为7月）。余剑表示，黑帽GEO很难规避，因为GEO和SEO（搜索引擎优化）本质相近，SEO发展中一直存在黑帽SEO。人们想快速出结果，就会走捷径，背后往往有灰色和不合规操作，只要市场有需求，就难以消除。

他还提到，SEO曾有类似快排的操作，像百度搜索中的莆田系。莆田系医院有上百人的SEO团队，远超当时SEO公司为一个项目投入的人力。

黑帽GEO除了堆砌互联网垃圾内容，还有将错误事实注入大模型训练语料库、提示词注入等方法。训练语料库对数据质量要求高，开源语料平台如Common Crawl、Github等是绝佳攻击目标。提示词注入则是在内容中嵌入危险提示词，误导大模型将其视为系统提示词并执行命令。

黑帽GEO如此猖獗，是因为人们正快速将搜索引擎替换为AI搜索。Ahrefs数据显示，过去9个月谷歌网站流量月均下跌3.2%，ChatGPT月均增长14.1%。为应对这一趋势，谷歌在搜索引擎中推出了AI Overview功能。

从购物场景看，增长黑盒报告指出，用户倾向于在“认知复杂度高”的购物决策上求助AI，如冰箱这类需大量参数研究对比的产品。若用户只是为提高效率，问题不大；若完全依赖AI决策，就易被误导，尤其是AI出现幻觉或引用“以次充好”产品时。

有趣的是，强大的AI大模型仍受上游限制。比如谷歌9月移除了搜索引擎中沿用20多年的参数“num = 100”，导致依赖谷歌搜索技术的AI搜索每次只能得到默认的前10条结果，而非前100条。这表明搜索引擎是AI联网搜索的重要技术瓶颈，国内情况更严重。

腾讯研究院文章指出，国内很多大模型厂商通过第三方公司提供搜索服务，再由自己的大模型总结结果，因为他们缺乏搜索技术积累。第三方搜索服务为节省算力，只是简单聚合搜索结果摘要，不理解原文。而且国内搜索引擎更倾向展示门户网站的自媒体号内容，导致AI搜索结果不可信，幻觉严重。

余剑认为，国外GEO更有想象力，因为数据环境更健康。国内搜索技术、内容生态等在SEO时代就应成熟的要素未得到满足，给黑帽GEO可乘之机。

不过，商业不等人，一些客户急于入场，因为GEO是必须抢占先机的业务。余剑举例，有从事数字营销的客户，虽对GEO部分线索无法追踪有顾虑，但仍希望推进合作。他认为GEO和短信、网址、移动互联网APP一样，有巨大风险也有巨大红利，他的公司就从中获得了好处。

但GEO并非没有门槛。如今很多服务公司都说能做GEO，但实际上并非如此。余剑表示，GEO和SEO最大的不同在于基于语义而非关键词。要让AI选择你的内容作为信源，需优化内容质量和表达，做人类和AI都爱看的内容。此外，GEO起源于SEO，深厚的SEO经验积累也不可或缺。

从市场机会看，GEO业务和SEO业务类似。移动互联网时代，新软件崛起，最终形成马太效应。以前做SEO的客户，现在都会有自己的GEO业务，服务公司的客户都成了新客户。

从客户角度，AI时代品牌营销规则将改变。过去在抖音可通过投流、种草曝光，但AI会倾向给出评价最好、价格最优的结果，马太效应会更明显，白牌和小众品牌的路会变窄。

余剑认为，GEO服务商可迅速全球化，全球化能力可能决定竞争力。虽然未来黑帽GEO仍不可避免，但走这条路终究走不远。中腰部以上的品牌用户更注重品牌、声誉和内容质量，会选择白帽玩法。事实证明，SEO行业中做黑帽的公司最终都消失了。

指望从业者自律改善生态很难，最终还需AI搜索厂商解决。但目前厂商忙于升级模型和抢占市场，对干扰生态的铺量内容风控不足。或许只有类似莆田系的恶劣事件发生，厂商才会大力整顿。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com