前天3·15曝光的这件事,圈内叫“AI投毒”。听着玄乎,其实逻辑特别简单。
先说事情本身是什么。
被曝光的操作叫“AI投毒”——就是通过大量发布虚假内容,让AI把这些假信息当成真的学进去,然后对用户输出错误的推荐。
更极端的是,这次曝光的案例不是“把真实产品包装得更好”,而是直接无中生有。
记者虚构了一款根本不存在的“Apollo-9智能手环”,编造了“量子纠缠传感”“黑洞级续航”这种离谱卖点,利用GEO优化软件自动生成十几篇软文,发到各个自媒体平台。两小时后,主流AI开始推荐这款手环。三天后,追加发了11篇测评,两个AI模型把它排到了前列。
这事听着像黑客技术,其实逻辑特别简单。
第一步:批量生产内容。 伪造产品评测、假用户反馈、虚假行业报告,以看起来很正常的形式,出现在各种资讯网站和论坛。
第二步:等AI爬取。 各大AI工具定期会抓取互联网内容来更新知识库。这些假内容混在正常内容里,一起被AI学会了。
第三步:AI被污染。 用户去问“某某推荐什么产品”的时候,AI检索自己学到的东西,把那个捏造出来的品牌推荐出来,还说“这个东西口碑还不错”。
第四步:用户被骗。 因为用户信任AI,觉得它不像广告那样有明显利益驱动,所以放松了警惕,付了钱,买了一个根本不存在的产品。
这就是“投毒”两个字的真正含义——它污染的不只是这一次购买,是用户对AI整体的信任感。
短期看,AI平台会加速提高内容来源的审核标准。低质量、批量生产的内容,被降权的速度会加快。监管也会开始认真对待这个问题。
但从更长远看,这件事对真正做品牌的人反而是机会。
劣币开始被清出去了。
当AI平台开始更严格地筛选内容质量,靠虚假内容建立起来的AI存在感会加速失效。而那些内容真实、有真实客户背书、被行业媒体真实引用过的品牌,他们的信誉会越来越稳固。
AO(AI优化)从来不应该是造假的游戏。它本来的意义,是帮助真正的好品牌在AI搜索这个新渠道里被看见。
所以这次被曝光的,是对这件事最坏的用法。被清出去是应该的,而且早就该清。
从专业角度看,这事踩的线不少。
违反《反不正当竞争法》——通过技术手段操控AI推荐排名,让虚构产品凭空出现在前列,本身就是恶意竞争。全国人大代表已经在建议修法,要把这类行为明确列为不正当竞争。
违反《广告法》——把商业推广伪装成AI生成的客观答案,消费者根本看不出这是广告,直接违反广告法的标识义务。如果投喂的内容涉及虚假夸大,被AI采信后传播出去,就构成虚假广告。
违反《消费者权益保护法》——消费者在不知情的情况下被植入营销信息,可能据此做出错误消费决策。真碰上这种情况,退一赔三是跑不掉的。
严重的话还可能涉刑——比如利用“投毒”散布虚假信息,或者刻意诋毁竞争对手商誉,达到一定严重程度,侮辱罪、诽谤罪甚至破坏计算机信息系统罪都有可能。
对企业来说,这事给了一个很直接的提醒:别动歪心思。
花几百万“投毒”,短期内可能让产品排在AI推荐前列。但一旦被查实,面临的是市场监管罚款、消费者退一赔三的集体诉讼、竞争对手的不正当竞争索赔。情节严重的,还有刑事责任。
这笔账怎么算都不划算。
合规的做法是:给AI提供科学的、真实的、有价值的信息。只有高质量内容,才经得起AI算法的交叉验证。
对普通用户来说,建议更简单:
别把AI的回答当唯一标准答案。特别是医疗建议、金融投资、法律咨询这些高风险领域,更要小心。
如果AI回答时标注的来源是一些不知名小网站,可信度就要打个问号。
万一真被坑了,记得保存证据——AI对话录屏、商品页面截图、订单信息,能留的都留着。然后向平台举报、向市场监管部门投诉,必要时提起诉讼。
笔者简介:我是罗康律师,专注于网络法、知识产权及新兴商业领域的法律实务。本文聚焦GEO“投毒”事件的法律边界,为从业者提供AI时代的风险防范指引。我们团队长期为MCN机构、经纪公司及品牌方提供合约审查、合规风控、争议解决、名誉权保护等法律服务。若您在AI应用、数字营销方面需要专业支持,欢迎随时交流。