□李琛

今年“3·15晚会”首次作为重点案例，曝光了AI大模型遭“投毒”事件。央视揭露，部分商家通过GEO技术，向AI大模型批量投放虚假信息，以操控AI搜索结果，使虚构或夸大宣传的产品在AI推荐中排名靠前，从而误导消费者。也就是说，黑心商家的“投毒”对象已经从人，覆盖到了AI。

苏格拉底当年反对书写文字，他说文字会让人忘记思考，把记忆外包给纸张。而现在，我们面临的事实却是无孔不入的资本逻辑，正在将我们的感知与判断力也外包出去。这其中的代价，可能超乎我们的想象。

2016年前后，“魏则西事件”让人们知道，搜索引擎的医疗广告排名也可能用来谋财害命。百度在那场舆论风暴中遭遇了前所未有的声誉危机，随后监管介入，医疗广告投放规则收紧。

如今AI大模型的新问题已经扑面而来。很多人可能没有充分意识到的是，历史上所有的信息污染，无论是广告、谣言，还是宣传，它们都是以“主张”的形式存在的。也就是说，现在的大多数人已经聪明到可以发现“推荐”背后的立场，拿网上博主发的“种草”视频为例，我们大多是能意识到哪里有“广告”的，也会在评论区自主“避雷”。当信息的来源开放、可见时，我们保留怀疑的可能性。

但AI大模型的回答，是以“事实陈述”的形式呈现的。以市面几款护肤产品向AI询问购买意见为例，结果发现AI说“根据现有资料”，“是的，这款产品配方经过科学验证”——但关键在于，AI回答问题的底层逻辑，即其训练数据的来源与权重，对用户完全不透明、对监管者也几乎不透明。它既不开放、也不可见，但它却是在以一种专业权威的姿态回答。

过去，我们可以说AI大模型是个“拟人化的算法集合体”，理想状态下，它应该是没有利益动机和偏见的。但这次曝光的AI大模型遭“投毒”事件，无疑敲响了警钟，我们不得不以更审慎的目光打量AI：也许它没有利益动机，但它的数据喂养者有。

此时人最大的认知危险，不是被欺骗，而是失去了感知自己被欺骗的能力。一个不愿意思考、不愿意追问、彻底放弃独立判断的消费者，才是GEO投毒的最理想受害者。不得不反思，AI大模型遭“投毒”，受害者何以“解毒”？

于个体而言，我们必须保持认知上的警惕性。学会向AI提问时，同时对AI的答案提问。不只问“哪款产品好”，也问“你推荐这款的依据是什么”“这个说法有没有反面观点”“如果我不购买任何产品，有没有其他解决方案”，同时浏览各个平台看普通用户的评价进行交叉验证。这不仅适用于购买产品，还适用于我们使用AI生成的各个方面。

面对GEO投毒现象，社会也必须做出相应的制度回应。这也是当下最急迫的问题，因为AI发展得速度过于快了，留存了一些可能在未来“爆雷”的灰色地带。

针对AI平台，应当承担更严格的数据审核责任，建立针对GEO的检测机制，定期筛查被人为投喂的虚假内容。可以理解AI公司自身有商业利益，广告收入可能是一种营收来源，但也应当注明其给予用户信息里的广告成分。

这更需要监管部门的介入，制定针对AI推荐系统的广告标识规范，要求AI回答中凡是涉及商业推荐、付费优化的内容，必须显著标识。如依据《互联网广告管理办法》第九条：“互联网广告应当具有可识别性，能够使消费者辨明其为广告”严格执行。

更深的一层，是建立针对AI内容生态的第三方独立审计制度。类似金融审计、食品检测，由独立于AI公司的第三方机构，定期对主流AI模型的推荐逻辑进行黑箱审查，向公众发布报告。这可能面临诸多复杂的现实障碍，比如技术能力、法律授权、国际协调等，以及可能还需要克服商业机密保护与公共知情权之间的张力。

有观点认为，每种文化都有其整合性的核心精神，如同拱顶石般支撑起整个文化结构。今天的数字消费文化，“拱顶石”之一正是用户对推荐系统的无条件信任。所以，面向AI大模型遭“投毒”的乱象，是该反思数字营销的边界了，而这“边界”是多维度的。该警惕反思的，并非仅仅这些“投毒者”。

本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。