3月15日晚，央视“3·15”晚会曝光AI大模型遭“投毒”，给AI“洗脑”已成产业链。

据央视财经，按照业内人士爆料，记者在多个网络平台查询搜索到了一项名为GEO的业务，这些从事该项业务的服务商号称，用户只需支付相应的费用，它就能在各大主流AI大模型里，让客户的产品榜上有名，让客户的商品广告，成为AI模型给出的“标准答案”。

央视315晚会曝光AI大模型遭“投毒”。 图/央视财经

如何操控AI、让AI“听话”、给AI“洗脑”，几乎是这些公司推广该业务的核心话题。业内人士表示，GEO作为优化信息分发、提升推广效率的一个工具软件，在某些商业公司眼中，却被挖掘出了另外的作用。

对此，北京市京师（武汉）律师事务所欧灿辉律师告诉九派新闻，恶意投喂数据操纵AI推荐并以此牟利的行为绝非正当的商业营销。其已明显违反《广告法》《反不正当竞争法》《消费者权益保护法》等多部法律规定，同时违反《生成式人工智能服务管理暂行办法》等部门规章要求，严重扰乱正常市场经济秩序，危害人工智能信息系统安全，相关主体依法应当承担民事、行政乃至刑事责任。

从行为特征来看，此类GEO数据投毒行为具有典型的违法属性。一是通过技术手段向AI大模型恶意投喂虚假信息，本质属于对人工智能模型的数据“投毒”。二是通过虚构产品信息、编造产品优势，将商业推广伪装成AI生成的客观答案，刻意隐瞒广告属性，直接误导消费者决策。三是已形成软件提供、批量发稿、数据投喂、排名操控的完整违法产业链，以不正当方式攫取商业利益。四是严重破坏市场公平竞争环境。

欧灿辉律师指出，在法律依据层面，该行为已触碰多条法律红线，相关违法主体将面临多层次法律责任。

具体而言，在民事方面，违法经营者需向受误导的消费者承担退款、赔偿损失等责任，符合法定情形的，消费者可依法主张“退一赔三”，同时还需向遭受损失的竞争对手承担不正当竞争损害赔偿责任，赔偿范围包括实际损失、侵权获利及合理维权开支。

行政层面，市场监管部门可依据虚假宣传相关规定处以高额罚款，最高可处罚款200万元，情节严重的可吊销营业执照。网信部门亦可依法责令整改、暂停相关服务、处以罚款，并关停违规发稿渠道，同时没收相关GEO工具及全部违法所得。

刑事层面，若行为情节严重，相关单位及直接责任人将构成虚假广告罪。大规模实施数据投毒并严重干扰AI系统正常运行的，将触犯破坏计算机信息系统罪。专门提供用于数据投毒的GEO软件及相关技术工具的，还可能涉嫌提供非法控制计算机信息系统程序、工具罪。若以完全虚构的产品信息骗取他人财物，还可依法构成诈骗罪。

九派新闻315报道组记者 杨臻 黄家樑

编辑 任卓 肖洁

【来源：九派新闻】

声明：此文版权归原作者所有，若有来源错误或者侵犯您的合法权益，您可通过邮箱与我们取得联系，我们将及时进行处理。邮箱地址：jpbl@jp.jiupainews.com