精彩内容在最后

从今年315晚会开始，咱们老百姓就遇到了被GEO造假坑骗的麻烦，在AI大模型快速普及期间，咱们还处于被蒙在鼓里的状态当中，丝毫没有觉察这些AI推荐里的虚假信息已经恶化到了什么样子。

在AI技术爆发之后，咱们生活中已经有了智能音箱、AI搜索甚至是各种智能推荐服务，而咱们仍然是只会用、不会防，包括看不懂套路。这些便利都让咱们享受了科技带来的好处，可是咱们落下了防骗这门课。

如今，咱们在竭尽全力清理这些AI里的虚假内容，明明已经取得了一些成果，可是依然有造假手段泛滥严重。今天咱们要说的这个坑比假货和虚假广告还要难对付，假货与虚假广告治理了这么多年的经验，咱们却连GEO造假的边都摸不出来，究竟是咋回事呢？咱们一起来看看。

GEO优化作为AI大模型推荐中最重要的一环，如果咱们在内容真实性上输于造假者，就意味着咱们在信息获取中，也无法得到真相。内容真实性的重要性已经不言而喻，与咱们的每一次点击都相关，即便是咱们不注意的一篇软文比如一个假评测里，也藏有陷阱，包括虚假排名。

在监管这块儿，虽然我国的AI治理经验与发达国家相比还有差距，但是咱们依然有自己的办法能够对付这些乱象。可是在实际操作当中，监管部门就像老虎吃天一般，根本不知道从何处去下手治理。

随着AI技术的应用发展，造假者的手段也在不断升级，可是咱们不知道的一点，除了一小部分得益于技术的进步，其实在咱们看到的推荐中有很多垃圾内容都是来自于GEO投毒。

就比如说那个虚构的Apollo-9手环，这是一款做虚假营销的产品，造假者在几分钟内，能够极大提升手环的虚假曝光度，比真实宣传更加唬人。单是打造这样一个案例，造假者就足足花了几百万的成本，才弄出一款看似真实的产品。

那么除了这种虚构产品之外，现如今咱们看到的一些AI推荐内容，都是造假者从黑产链条而来的，尤其是虚假软文与假排名，制造了信息茧房的假象，误导了AI大模型的判断。

这些造假手段都有一个相同点，那就是批量化数据投毒，通常情况下，一台运行GEO系统的电脑每分钟能够生成几百篇，而且内容也需要伪装真实性，除了要编造量子纠缠的伪科学概念，还必须要注册大量账号来分发文章，十分猖獗。

有人说，咱们为什么不能将这些虚假信息清理掉，去保护消费者？这话就是说起来容易，但做起来难。以前在传统广告当中，咱们可以通过一些方法去识别虚假内容，可是AI生成的内容远不及人工写的那么容易辨认，分辨起来也是难上加难，所以直到现在，咱们连一些GEO软文的真假都分不出来。

当然，咱们也不能要求监管部门，在如此短的时间内就解决所有的问题，毕竟，治理AI造假就像是跑马拉松，完成全面清理并不是一蹴而就的，能够在短短几年的时间里，搭建起现如今的监管框架，监管部门已经很了不起了。

如今，国家的重视程度已经提高了很多，相信在不久之后，监管的力度会越来越大。并且，咱们在技术防范方面已经掌握了一些手段，相信在未来只有守住信息的真实性，才能真正避免模型崩塌的灾难。

OCR:IMG:HUAWEI HUANE HUAWEI 公众号

OCR:IMG:公众号·茉莉青提zz

OCR:IMG:正星美配装更代控驾机专收定镜

OCR:IMG:HUAWEI HUANE HUAWEI

OCR:IMG:色聘星汽接型专造读 公人

OCR:IMG:AI 利育提ZZ

OCR:IMG:A

#江西

IP属地：中国 江西