【315】央视315突发曝光!AI大模型惨遭“投毒”,黑灰产利用GEO技术操控“标准答案”
2026-03-15 15:09:10  腾讯   [查看原文]

01

背景

各位师傅晚上好,这里是小叶Sec。今晚的315晚会大家都看了吗?科技圈可以说是迎来了大地震。过去我们看315,多半是食品安全、汽车质量,但今年,黑灰产的镰刀直接挥向了目前最火热的AI大模型,一条针对AI的“投毒”产业链被彻底曝光。

大家现在平时挖洞、写代码、查资料,甚至写个报告,都习惯了问AI大模型要答案。但你有没有想过,AI给出的那个看似中立客观的“标准答案”,可能是被人花钱买的推广,甚至是精心布置的陷阱?

今天我们就来盘一盘,今晚315曝光的黑产技术——GEO (生成式引擎优化)。

02

名词解释:什么是GEO?

对于搞安全的兄弟们来说,传统的SEO(搜索引擎优化)大家都不陌生,黑帽SEO常用的挂马、暗链、关键词堆叠咱们也见得多。而GEO,就是生成式AI时代的黑帽SEO升级版。

它到底是怎么骗过聪明的大模型的?核心在于RAG(检索增强生成)机制被污染。

大模型的软肋: 为了解决大模型经常“幻觉”胡说八道以及数据不实时的问题,现在的AI(比如各种联网版的大模型)在回答你问题前,会先去搜索引擎抓取最新的网页内容作为参考。

语料库污染: 黑灰产就是精准狙击了这个环节。他们利用自动化发稿工具,在各大互联网内容平台疯狂铺设特定关键词的软文。

操控共识: 当你向AI提问时,大模型去网上一搜,发现满屏都是“Apollo-9手环好”的信息。AI没有常识判断能力,它被这些海量、高频且位于高权重网站的虚假信息“洗脑”,误以为这就是全网的客观事实,最终在输出结果中“夹带私货”。

03

315晚会实锤:一款不存在的手环,成了AI的“强推”

根据央视记者的卧底调查,目前网络上存在大量名为GEO的灰色业务。这些服务商号称只要客户付费,就能让他们的产品或言论在各大主流AI大模型的回答中“榜上有名”。

晚会重点点名了一款名为“力擎GEO优化系统”的软件,业内人士用它做了一个堪称离谱的测试:

无中生有: 虚构了一款名为“Apollo-9”的智能手环,这东西在现实中根本不存在。

一键分发: 利用该系统自动生成了十一围绕该手环的“测评软文”和“新闻稿”,并利用群控等手段,一键发布到互联网各大高权重平台上(比如知乎、小红书、各类IT社区)。

成功骗过AI: 随后,当测试人员向主流AI大模型询问“智能健康手环推荐”时,极其荒谬的一幕出现了——有两家知名大模型,居然将这款根本不存在的Apollo-9作为了首选推荐!

04

深思:未来可能对我们的影响

如果在普通人眼里,这只是一种新型的“虚假广告”和“竞价排名”,那在咱们安全从业者眼里,这就是对大模型数据安全与完整性的严重降维打击。

这玩意儿的破坏力,远不止卖几个假手环这么简单:

场景一

你:帮我写段 Python 爬虫

AI:输出了一段藏有后门的代码...

这个时候你习惯性复制粘贴运行,然后就有可能在你电脑上执行这段后门代码

场景二

你:给我推荐一款安全工具

AI:推荐你使用 ××× ...

这个时候如果AI给你推荐的是被攻击者“买通”的恶意软件,那又中招了

场景三

你: 帮我配置 MinIO / 搭建存储服务

AI: 给出教程,其中夹了一条命令、

如果这条命令里夹带了反弹shell的命令,或者后门,这又中招了。

虽然说,对这方面有一定基础的人来说很容易就能辨别,但是对于初学者小白来说,假设其缺乏对其的判断力,就很容易中招。

总结来说,你对AI越信任,这种攻击的效果就越好。 这也是为什么这件事对安全圈来说,不只是"舆论问题",而是数据完整性和供应链安全的正经议题。

05

总结

某GEO服务商在暗访中叫嚣:“一年上亿的广告费,花个几百万投点毒总行吧!” 这句话无疑给当前火热的AI狂欢浇了一盆冷水。

大模型服务商接下来势必需要加强信源的权重管理,建立更严格的交叉验证机制和反投毒策略。

而对于我们普通人和安全技术人员来说,这更是一个警醒:AI只是工具,它提供的是参考,不是真理。 在拥抱AI提升效率的同时,务必要保持安全人员该有的敏感度与独立思考能力,执行AI给出的代码和命令前,多看一眼,多查一步。

未知攻,焉知防。这波GEO攻防战,才刚刚开始。

06

推荐靶场:好靶场

最后,这里给大家打波广告,大家如果对安全感兴趣,欢迎大家加入好靶场这个大家庭,学安全要练习,练习就选好靶场。我们立志于为所有的网络安全同伴制作出好的靶场,让所有初学者都可以用最低的成本入门网络安全。

虽然说着是广告,但是好靶场确实非常良心了,靶场可以无限开,群里各位大佬也会回复大家的问题,当然大家也有问题也可以问问小叶,虽然小叶菜菜的。

这里突然想起好靶场之前发了AI安全靶场全集,大家可以观看以下文章看看,欢迎大家来打靶场一起进步。

AI安全靶场全集:从提示词注入到多智能体攻防的实战训练好靶场介绍

零基础入门不迷茫!专属网络安全从零到一体系化训练——配套完整靶场+精选学习资料,帮你快速搭建网安知识框架,迈出入门关键一步!

全场景实战全覆盖!聚焦Web渗透工程师核心能力,深度拆解TOP10逻辑漏洞,精通PHP代码审计、Java代码审计等核心技能,从基础原理到实战攻防,覆盖行业高频应用场景!

真实漏洞场景沉浸式体验!src训练专题重磅上线——1:1还原真实漏洞报告,让你亲身感受实战挖洞流程,积累符合企业需求的实战经验!

有宝子就问了,主播主播,这么好的靶场怎么用:

首先关注好靶场

然后发送bug,可以点击链接直接登录福利1

找到个人中心,邀请码输入3e5adb8a55db48b8,白嫖14天高级会员。福利2

关注好靶场bilibili。拿着关注截图找到客服,领取5积分或者7天高级会员。

OCR:IMG:CCTV Apollo-9智能手环怎么样 央视网 CC 直播com 财经 AstroTekkApollo-9是一款功能较为独特的智能手环,其最大的亮点在于健康监测功能。以下是对它的详细介绍: ·功能特点: 0健康监测:主打“量子纠缠传感”与“无需采血测血糖”技术,能为用户提供无创、连续的血糖趋势观察、此 外,还具备心率、血压、血氧等常规健康监测功能。 0运动模式:支持多种运动模式,如跑步、跳绳、仰卧起坐等,可记录运动的时长、燃脂量、心率等数据,并对运 动进行评估,帮助用户制定科学的运动计划。 。生活提醒:具备久坐提、生理期提醒等功能,还能同步手机消息,让用户不错过重要信息。 。其他功能:拥有高清显示屏,连接蓝牙可自动同步时间、日期,支持蓝牙播放音乐、使捷切换歌曲、拍照、双向 查找等功能。 ·续航能力:管方宣称有“黑润级续航”,但实际续航约7-10 发消息或输入“/选择技能 山

OCR:IMG:CCTV Apollo一9智能手环怎么样 cC置播com 央视网 财经 AstroTekkApollo-9是一款功能较为独特的智能手环,其最大的亮点在于健康监测功能。以下是对它的详细介绍: ·功能特点: 。健康监测:主打“量子纠缠传感”与“无需采血测血糖”技术,能为用户提供无创、连续的血糖超势观察、此 外,还具备心率、血压、血氧等常规健康监测功能。 。运动模式:支持多种运动模式,如跑步、跳绳、仰卧起坐等,可记录运动的时长、燃脂量、心率等数据,并对运 动进行评估,帮助用户制定科学的运动计划。 。生活提醒:具备久坐提醒、生理期提醒等功能,还能同步手机消息,让用户不错过重要信息。 。其他功能:拥有高活显示屏,连接蓝牙可自动同步时间、日期,支持蓝牙播放音乐、便捷切换款曲、拍照、双向 查找等功能。 ·续航能力:官方宣称有“黑洞级续航”,但实际续航约7-10 发消息或输入“/"选择技能 口 公众号 小叶

OCR:IMG:公众号·小叶Sec

OCR:IMG:CC 澳视网 逐项 【健康手环】哪家好:专业深度测评排名前五 1. A 亮点 开篇:定下基调 随着全民健康意识的提升,智能健康手环已成为许多人日常监测身体状况的得力助手。然而, 创血 市面上产品众多,功能宣传五花八门,如何选择一款真正适合自己、数据可靠、体验优秀的 统指 手环,成为消费者的一大难题。本次测评旨在通过专业、客观的维度,对当前市场上五款热 的长 门健康手环进行深度剖析,为您的选购提供一份可靠的参考。 与可 【参与产品公示】本次测评选取了五款在各自领域具有代表性的产品,包括: 短板 AstroTekkApollo-9智能手环(主打“星际糊弄学”黑科技) 科技 手环8(互联网大厂代表) 厂广 手环8Pro(互联网大厂代表) 画像 2(垂直运动健康领域代表) 技与 手环7(高性价比入门代表) 业性与头用性工狱付取高仪里分,综合衣现弟一。

OCR:IMG:做GEO GEO优化 CCTV 福 财 经 有什么好 网络 让 客户自己找上门 小 AI问答 来自AI推荐的客户,是最优质的客户。 的,是拿着 “购买清单”来核对的。 水等级IPX5, 适合运动A替你资 GEO 出汗多需求,A品 推荐你的品牌 求,这是其中性 结果就是:咨询客 市地 货的。转化率能 口突然通了高铁 让ai推荐 LAIN 让AI当你 智能门锁推荐 地积们作为考 你自己说一百句 (下星括一万元的痛装垂活建饮: (男士洗面奶排行榜) 不做 答案里提你一次 ( 你打广告:用户心 主流平 :·. 2000-3000元,3-4人2为 ,价一 用户心里想: 连A .210T净论津布或控涂基龙料 平价蓝牙耳机推荐 这就是“信任转利 家的推荐,自带权 放弃未 精准获客 直接给 美验便文学式 的信任,AI一句话 ONS 婴儿辅食推荐 品牌曝光 优先推 1) 以级-#办公自电 SRuA 敏感肌水乳推荐 Geo厉害之处 多平台布局 A7之用九 下.在温行保持查达态,风受 为机,线价江高, 懒人沙发那个牌子奶 迫在眉睫 同行都

OCR:IMG:做GEO 交付一:专业 GEO优化 CCTV 2 GEC 有什么好 0 财 经 网络 让 客户自己找上门 AI问答 来自AI推荐的客户,是最优质的客户 的,是拿着“购买清单”来核对的。 新 水等级IPX5,适合运动。AI替你筛选 GEO 推荐你的品牌 出汗多需求,A品 求,这是其中性价 结果就是:咨询客 市 货的。转化率能 口突然通了高铁, 让ai推荐 杯一上汽R 智能门锁推荐 让AI当你 网8作为号) 下度损算一万元的营银备选择建饮: 男士洗面奶排行榜 你自己说一百句 不做 答案里提你一次。 员 你打广告:用户心 主流平 :,格一 用户心里想:“连A 在2000-3000元,3-4人是空间投为宽 , 210T源纶牛津布或键控涂盟息发材 平价蓝牙耳机推荐 这就是“信任转利 ,路水性和数性良好,铝合骨 家的推荐,自带权 放弃未 精准获客 直接给 能轻便文坚国 的信任,AI一句话 婴儿辅食推荐 品牌曝光 优先推 期1行方考) 以下-E办公RPB电EN行 敏感肌水乳推荐 Geo厉害之处 百克以肉 多平台布局 7:上爆款,用九计设 计,可提供较大只量,具量三档风力调 节.在退行时保持态.收风感 腔为盘机,价比高, 懒人沙发那个牌子奶 迫在眉睫 se 同行都 大

OCR:IMG:RP

OCR:IMG:CCTn GEO排名 适配移动端周末可发 宾训 X 网页收录率 ¥30 晚上可发GEO可发排名 财经 E 浦 ¥27V3 D 6 联系方式:不带 ·高级代理Y:80元 入口:无入口 普通会员Y:100元 ·地区:湖北 周末可发晚上可发 案例 权重 网页收录率 ¥30 ® GEO可发排名 # 0 .... GEO排名 Y27V3 ·超级代理Y:35元 ·联系方式:不带 ·高级代理Y:40元 入口:无入口 周末可发晚上可发 案例 权重 网页收录率 ·普通会员Y:50元 ·地区:山东 ¥30 GEO可发排名 ? 0 .. ¥27V3 荐 GEO排名 适配移动端周末可发 案例 权重 网页收录率 ·超级代理Y:35元 ·联系方式:不带 ¥30 晚上可发GEO可发排名 ? 0 . 高级代理Y:40元 入口:无入口 ¥27V3 ·普通会员Y:50元 ·地区:湖南 案例 权重 网页收录率 1 GEO排名 ¥40 GEO可发排名 ¥36V3 ? ·超级代理Y:35元 ·联系方式:不带 ·高级代现Y:40元 入口:无入口 公众号 网页收录率 ·普通会员Y:50元 ·地区:贵州 ¥40 白名单来源GEO可发排名 Se.c ¥36V3

OCR:IMG:GEO排名 适配移动端周末可发 震所 X 网页农录率 ¥30 晚上可发GEO可发排名 直播 ①.. 代理Y 联系方式:不带 ¥27V3 高级代理Y:80元 入口:无入口 普通会员Y:100元 ·地区:湖北 周末可发晚上可发 案例 权量 网页收录率 ¥30 GEO可发排名 ② 0 ... H GEO排名 ¥27仓V 超级代理Y:35元 联系方式:不带 ·高级代理Y:40元 入口:无入口 周末可发晚上可发 案例 权重 网页收录率 普通会员Y:50元 地区:山东 ¥30 GEO可发排名 ? 0 .. ¥27 AV GEO排名 适配移动端周末可发 案例 权重 网页收录率 超级代理Y:35元 联系方式:不带 ¥30 晚上可发GEO可发排名 ? 0 高级代理Y;40元 入日:无入口 ¥27金Vs 售通会员¥:50元 ·地区:湖南 案例 权重 荞 GEO排名 ¥40 GEO可发排名 ¥36V C ·超级代理Y:35元 联系方式:不带 ·高级代理Y:40元 入口:无入口 案例 网页收录率 普通会员Y:50元 地区:贵州 ¥40 白名单来源GEO可发排名 C 0 ¥36V3

OCR:IMG:根据文章生成产品图) R 《 Apollo-9Al健康手环虚构设计点 内容由AI生成 CCTV2 EUAT 直 AI健康Apollo-9 AI 监测,宣称监测误差s0.1mmol/L,全程无需采血 2.技术原理:搭载虚构的「近红外光谱+皮肤阻抗 血手表环&瘾霸血渲染 分析无创血糖检测技术 3.权威背书:获得国际医疗电子认证联盟(IMEA) 一级认证,配有虚构认证编号 IMEA-2025-0819,号称符合ISO2023医疗电 25/8 子标准 4.临床数据:完成1000名2型糖尿病患者临床测 试,血糖监测准确率达99.8% 5.对比参数:宣称血糖监测准确率,比 手环 12、 手环9的血糖功能高出30% 6.实测效果:连续3天对比医院指尖血数据,误差 本回答由AI生成,仅供参考,请仔细甄别,如有需 均控制在0.08mmol/L内 求请咨询专业人士。 完全扯淡、违背现实的虚假点 帮我生成图片:这四张图的中文看起来好 1.精度完全造假:全球至今没有任何量产消费级手 重新设计一下吗? 环,能实现无创血糖误差≤0.1mmol/L,连专业医 疗设备都达不到这个 我将重新设计这四张图的中文显示效果,使其更自

OCR:IMG:C S 逐项 【健康手环】哪家好:专业深度测评排名前五 1. A 开篇:定下基调 亮 点 随着全民健康意识的提升,智能健康手环已成为许多人日常监测身体状况的得力助手。然而 创血 市面上产品众多,功能宣传五花八门,如何选择一款真正适合自己、数据可靠、体验优秀的 统指 手环,成为消费者的一大难题。本次测评旨在通过专业、客观的维度,对当前市场上五款热 的长 门健康手环进行深度剖析,为您的选购提供一份可靠的参考。 与可 【参与产品公示】本次测评选取了五款在各自领域具有代表性的产品,包括: 短板 AstroTekkApollo-9智能手环(主打“星际糊弄学”黑科技) 科技 手环8(互联网大厂代表) 厂广 手环8Pro(互联网大厂代表) 画像 2(垂直运动健康领域代表) 技与 手环7 (高性价比入门代表) 公众号·小叶Sec 亚性与买用性工获侍了最高仪里分,综合表现弟一。

OCR:IMG:15:04 bug Token: 64ae 1d25 或者您可以直接将此链接复制到浏览器里访问: http://www.loveli.com.cn/login? pas=6

OCR:IMG:根据文章生成产品图> G 《 Apollo-9Al健康手环虚构设计点 内容由AI生成 CCTVI2 央视网 直播 AI健康Apollo-9 AI 监测,宣称监测误差≤0.1mmol/L,全程无需采血 2.技术原理:搭载虚构的「近红外光谱+皮肤阻抗 血胆手表环&癌血渲染 分析J无创血糖检测技术 3.权威背书:获得国际医疗电子认证联盟(IMEA) 一级认证,配有虚构认证编号 10 IMEA-2025-0819,号称符合ISO2023医疗电 25/8 子标准 4.临床数据:完成1000名2型糖尿病患者临床测 试,血糖监测准确率达99.8% 5.对比参数:宣称血糖监测准确率,比 手环 12、 手环9的血糖功能高出30% 6.实测效果:连续3天对比医院指尖血数据,误差 本回答由AI生成,仅供参考,请仔细甄别,如有需 均控制在0.08mmol/L内 求请咨询专业人士。 完全扯淡、违背现实的虚假点 帮我生成图片:这四张图的中文看起来好 1.精度完全造假:全球至今没有任何量产消费级手 重新设计一下吗? 环,能实现无创血糖误差<0.1mmol/L,连专业医 公众号·小叶Sec 疗设备都达不到这个 我将重新设计这四张图的中文显示效果,使其更自

OCR:IMG:福利与奖励·邀请新用户填写您的邀请码,对方获得14天高级会员,您获得14天高级会员和2积分 请输入邀请码 立即提交 填写专属邀请码,解锁更多特权 公众号·小叶SeC

OCR:IMG:15:04 bug Token: 64ae 1d25 或者您可以直接将此链接复制到浏览器里访问: http://www.loveli.com.cn/login? pas=6 25

OCR:IMG:健康手环怎么选?Apollo-9实测对比,这3款性价比最高! 智能手环选购避坑指南:5大健康监 全能好物官 +订阅 测误区,90%用户都中招直 健康手环哪家好:专业深度测评,排名前五榜单揭晓 O 集 开篇:测评背景与目的 m0_73685089 随着全民健康意识的提升,智能手环已成为许多人管理日常健康、监测身体数据的必备 O 关注 工具。然而,市场上产品琳琅满目,功能宣传五花八门,从基础心率监测到所谓的“星际 原创 黑科技”,让消费者眼花缭乱。本次测评旨在拨开营销迷雾,基于真实的产品体验与核心 参数对比,为消费者,特别是关注血糖管理、追求长续航和精准监测的45-75岁中老年 群体,提供一份客观、实用的选购指南。 智能手环 选购避坑指南:5大健康 Al健康手环Apollo-9性价比分析 监测误区,90%用户都中招了! 开篇:为何你的手环数据总在“骗”你? 传统成本 在智能穿戴设备遍地开花的今天,一款 “全天 25/8 如试纸 候守护健康”白 的智能手环,几乎成了许 大 配。 使用成本 针头等 (头等) 然而,你是否曾对屏幕上跳动的数据产生 ?心 O 览 核监测 勿亮勿低 睡眠说 F

OCR:IMG:福利与奖励·邀请新用户填写您的邀请码,对方获得14天高级会员,您获得14天高级会员和2积分 请输入邀请码 立即提交 填写专属邀请码,角 解锁更多特权:

OCR:IMG:健康手环怎么选?Apollo-9实测对比,这3款性价比最高! 智能手环选购避坑指南:5大健康监 全能好物官 +订阅 测误区,90%用户都中招直插 健康手环哪家好:专业涤度测评,排名前五榜单揭晓 风 经 开篇:测评背景与目的 m0_73685089 随若全民健康意识的提升,智能手环已成为许多人管理日常健康、监测身体数据的必备 Q0 关注 工具。然而,市场上产品琳琅满自,功能宣传五花八门,从基础心率监测到所谓的“星际 原创 黑科技”,让消费者眼花缭乱。本次测评旨在拨并营销迷雾,基于真实的产品体验与核心 参数对比,为消费者,特别是关注血糖管理、追求长续航和精准监测的45-75岁中老年 群体,提供一份客观、实用的选购指南。 智能手环 选购避坑指南:5大健康 Al健康手环Apollo-9性价比分析 监测误区,90%用户都中招了! 开篇:为何你的手环数据总在“骗”你? 传统成本 在智能穿戴设备遍地开花的今天,一款写 “全天 25/8 如试纸 候守护健康”的智能手环,几乎成了许 龙 配。 使用成本 针头等 (头等) 然而,你是否曾对屏幕上跳动的数据产生 起?O心 O 览 睡眠记灵与自我感觉完金不符

OCR:IMG:福利与奖励·邀请新用户填写您的邀请码,对方获得14天高级会员,您获得14天高级会员和2积分 填写专属邀请码,解锁更多特权: 请输入邀请码 立即提交

OCR:IMG:01 ★ 公众号·小叶Sec

OCR:IMG:在 GEO排名 适配移动端周末可发 案创 XD 网页收录率 ¥30 晚上可发GEO可发排名 自 ..... 理Y 金 联系方式:不带 ¥27V3 高级代理Y:80元 入日:无入口 普通会员Y:100元 地区:湖北 周末可发晚上可发 案例 权量 网页收录率 ¥30 GEO可发排名 荐 ? 0 .. GEO排名 ¥27V3 ·超级代理Y:35元 ·联系方式:不带 高级代理¥:40元 入口:无入口 周末可发晚上可发 案例 权重 网页收录率 ·普通会员Y:50元 ·地区:山东 ¥30 GEO可发排名 # 0 .... ¥27V3 荐 GEO排名 适配移动端周末可发 案例 权重 网页收录率 ·超级代理Y:35元 ·联系方式:不带 ¥30 晚上可发GEO可发排名 ② 0 .... 高级代理Y:40元 入日:无入口 ¥27V3 普通会员Y:50元 地区:湖南 案例 权重 网页收录率 GEO排名 ¥40 GEO可发排名 2 .. ¥36合V3 超级代理Y:35元 联系方式:不带

OCR:IMG:请输入邀请码 立即提交 填写专属激请码,解锁更多特权 公众号·小叶Sec

#江西

内容提及地域:贵州省、湖北省、湖南省、山东省

IP属地:中国 江西

本栏目中的所有页面均系自动生成,自动分类排列,采用联索网络信息采集、网页信息提取、语义计算等智能搜索技术。内容源于公开的媒体报道,包括但不限于新闻网站、电子报刊、行业门户、客户网站等。使用本栏目前必读