网易首页 > 网易号 > 正文 申请入驻

315曝光AI投毒,恰好证明了《2028年全球智能危机》错了

0
分享至


3月15日晚,央视“3·15”晚会曝光了利用GEO(生成式引擎优化)技术向AI大模型“投毒”的新型黑色产业链。“力擎GEO优化系统”被点名,报道指出其通过批量生成虚假软文并进行矩阵式发布,污染AI大模型的数据抓取源,进而操纵AI的推荐结果。

三家AI都在紧急回应315。

豆包回应:没有受到影响。

千问回应:不会影响核心知识体系。

DeepSeek回应:理论上可能存在影响,但风险可控。

有记者编造了一家无资质、无地址、无团队的“三无”虚构医美机构,花100元成本,半天时间之后,就能登上某主流大模型的医美推荐榜。100元只是一个体验价格,如果要想长期在大模型中露出,包年套餐价格高达数万元。

这种让AI回答中带有特定品牌的服务叫作GEO(Generative Engine Optimization,生成引擎优化),指广告营销公司为品牌客户生产、调整内容,使相应内容更容易被AI抓取,并出现在AI的回答里,以达到增加品牌曝光度或改变AI回答的效果。

其实,GEO也不算新鲜事。以前在搜索引擎时代,就有SEO(Search Engine Optimization,搜索引擎优化)。SEO 的核心原理是优化网站结构、内容和外部链接,使其更符合搜索引擎的抓取和索引规则,从而提升可见度和流量。

GEO作为一种服务,当前监管尚未明晰,并不违法。合法的GEO确实助力了一些品牌在AI回应中取得优先展示的机会。但灰色的甚至非法的GEO,则会通过大量制造低质甚至虚假内容、虚构排行榜等方式污染大模型的数据源,扰乱了大模型的输出结果,从而对消费者的决策造成误导,则违背了广告法的相关规定。目前,这种灰色现象,在医美、保健品等有准入门槛,利润又高的行业,更加严重。一些不法广告营销公司,甚至不进行最基本的资质审查。

其实,这种现象在SEO时代也有,但是,基于AI的特点,灰黑产GEO对消费者的侵害会更大。


以前通过搜索引擎搜索关键词,然后会跳转到一个页面,网民知道这是一个独立的页面,信任会降低。再加上网页内容通常并不能直接提供答案,需要用户自己提炼。这个提炼的过程,某种程度上是伴随审视和质疑的。

但现在,很多人会认为,AI具有智能,有排除“假冒伪劣信息”的能力,对AI给出的答案也更加信任。而且,AI简化为“提问——答案”,效果更加简洁直接,给出的是一个针对性很强的答案,人提取信息这一环就消失了,提取信息过程中的审视、质疑也随之消失了。所以,现在大部分人都还没有建立对AI回答的应有质疑之心,这就很容易上当。用户以为大模型给出的是客观结果,但实际上,却有可能是大模型被人为污染,从一些推广文章中抓下来的答案。

据记者了解,当前包含豆包、DeepSeek、千问、腾讯元宝、文心一言、Kimi等主流AI大模型平台方暂未明确出台关于GEO优化内容的规范。不过,推出大模型的厂商,有动力也有技术能力去保障自己大模型的客观性。据GEO服务商反映,已有平台在做出调整。


这不是一家的行为,而是整个行业的行为。2026年2月3日,中国人工智能产业发展联盟(AIIA)发起的《人工智能安全承诺:生成式引擎优化(GEO)专项》正式签署。10家GEO行业相关企业参与签署。2026年3月3日,中国信通院人工智能研究所正式启动首轮《生成式引擎优化(GEO)可信基本要求》评测工作。

监管也正在跟上,1月29日,市场监管总局广告监管司发布《2026年全国广告监管工作要点》,其中明确提出,整治互联网广告市场秩序。聚焦直播电商广告、引证广告、AI生成广告等互联网广告监管重点难点问题,开展集中整治。

行业自律,监管跟上,并不是要一棒子打死,而是要规范这个新兴行业。目前,国内所有主流AI模型,都没有开放基于GEO优化的官方API接口。所谓官方API接口,简单地说,就是大模型官方亲自下场,用大模型做广告。以后是否会开放这种接口呢?比如,当用户问什么空调最好的时候,它有倾向性地推荐某品牌。我觉得答案是肯定的。现在各家大模型还在争取客户阶段,大家会努力做好客观性,将来到了要赚钱的时候,大模型中包含广告,几乎是一定会出现的,就像现在的搜索引擎都有广告。

这是一个大市场,根据多家机构对GEO行业的预判,2030年中国GEO行业市场规模将达到240亿元。

从更长远上看,大模型必然具有的这种不可完全信任性,反而能保障人类的市场经济,不会在短期内崩溃。

前段时间,一份名为《2028年全球智能危机》(The 2028 Global Intelligence Crisis)的报告,引发了广泛的关注。这份预言式的推演报告,推演了AI在2028年可能带来的经济危机,一度引发美股情绪恐慌与下跌。这个报告的观点之一就是,AI穿透中介的信息不对等,会导致中介以及所有基于信息不对称的行业的覆灭。

但是GEO则是一个清晰的例子,它告诉我们,AI也不会是完全中立的。

从技术上来说,ai会被投毒,是因为大模型分得清鸟和家具,但分不清知更鸟和企鹅谁更像鸟。AI可以将新闻归类为体育、科技、娱乐,但它分不清楚一篇评测文章是中立的还是带有倾向的。

更重要的是,Ai厂商回应了央视315晚会,但他们没有说未来不会商业化,没有任何AI能承诺自己不商业化。

所以,所谓消除中介,本身就是一个悖论。非常完善的帮助用户消除中介环节信息差的AI,本身在经济上就是不可行的。打个比方,A公司的AI助手,不把生意留在A公司的生态,这样不带偏向的AI,本身就不可能出现。但如果AI把生意留在公司生态之内,那它就不是一个完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的决策。而只要人参与决策,信息差就会存在。

只要经济系统中,人的决策存在,人性就会重新定义稀缺。

可想而知,当你让AI帮你做攻略的时候,它提供的,未必是最合适你的,而是它所在的生态,能赚更多钱的。那么AI给出的答案,仍然需要人去鉴别,用户仍然需要留一个心眼。那么,AI 就不可能完全消灭基于信息不对称的行业。

刘 远 举


央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家,多家智库研究员。

关注时政、财经、科技话题,以深度、专业、理性的态度,去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载,欢迎转载

已开过白名单的公众号,转载请遵循转载规则

您的关注是最好的支持!


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
正在热播4部烂剧,没有最烂只有更烂,一部没看算你火眼金睛

正在热播4部烂剧,没有最烂只有更烂,一部没看算你火眼金睛

揽星河的笔记
2026-09-11 20:19:25
又一个小托马斯,拒绝3000万,今300万都拿不到,场均24分要退役

又一个小托马斯,拒绝3000万,今300万都拿不到,场均24分要退役

大西体育
2026-08-11 10:08:28
命运齿轮转动!九月十五运势大变,这4星座终于要苦尽甘来

命运齿轮转动!九月十五运势大变,这4星座终于要苦尽甘来

别人都叫我阿螫
2026-09-12 09:37:47
1981年我考上军校,毕业提干后准备娶妻,被姑娘父亲强行拆散!

1981年我考上军校,毕业提干后准备娶妻,被姑娘父亲强行拆散!

星河逍遥游
2024-10-01 08:03:30
大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

芹姐说生活
2026-09-08 23:21:41
摩尔线程CEO张建中曾多次穿黑皮衣 确实有“中国版黄仁勋”风范

摩尔线程CEO张建中曾多次穿黑皮衣 确实有“中国版黄仁勋”风范

新浪财经
2026-09-12 13:05:54
章若楠直播回应被夸漂亮:大家卸了妆都长一样,所有人都在去包装一个产品,那能不漂亮吗?

章若楠直播回应被夸漂亮:大家卸了妆都长一样,所有人都在去包装一个产品,那能不漂亮吗?

台州交通广播
2026-09-11 21:52:19
郭德纲又一后果来了!中央广播电视台“云听”下架了郭德纲的所有作品!这一次,评论区都在批评郭德纲

郭德纲又一后果来了!中央广播电视台“云听”下架了郭德纲的所有作品!这一次,评论区都在批评郭德纲

谭谈社会
2026-09-10 22:44:10
俄罗斯与越南已经谈妥,中国如此密集的铁路网,闲置不用太可惜

俄罗斯与越南已经谈妥,中国如此密集的铁路网,闲置不用太可惜

观烽墟
2026-09-12 00:20:06
我爷爷是阴阳先生,临终前告诫我:宁可穷死,也别赚这三种人的钱

我爷爷是阴阳先生,临终前告诫我:宁可穷死,也别赚这三种人的钱

千秋文化
2026-07-07 20:03:26
中国女篮VS泰国,开球时间确定,韩旭不打有原因,张子宇还是大魔王

中国女篮VS泰国,开球时间确定,韩旭不打有原因,张子宇还是大魔王

体育大学僧
2026-09-12 09:46:20
15名同事合买彩票,中奖3000万港元,因负责购票者不愿平分奖金闹翻…

15名同事合买彩票,中奖3000万港元,因负责购票者不愿平分奖金闹翻…

云南网络广播电视台
2026-09-12 22:05:38
与富豪离婚真相大白!50岁无儿女的李小冉近况曝光,难怪委屈大哭

与富豪离婚真相大白!50岁无儿女的李小冉近况曝光,难怪委屈大哭

琴琴有氧运动
2026-09-12 01:31:28
关于不予授予孔子同志正高级教师的批复

关于不予授予孔子同志正高级教师的批复

必记本
2026-09-12 10:53:14
41岁男子每天吃甲钴胺片和维生素B1,半年后复查,结果如何?

41岁男子每天吃甲钴胺片和维生素B1,半年后复查,结果如何?

看世界的人
2026-08-19 17:30:54
5年了,回看李子柒的院子,才发现,所谓的农村世外桃源根本“不存在”!

5年了,回看李子柒的院子,才发现,所谓的农村世外桃源根本“不存在”!

巢客HOME
2026-08-14 06:00:10
今晚开播!央视又一31集黑马大剧来袭,演员阵容不错,值得期待!

今晚开播!央视又一31集黑马大剧来袭,演员阵容不错,值得期待!

可乐谈情感
2026-09-13 00:22:09
“新美联储通讯社”:美联储下周势将加息,一旦开启“很少只加一次”

“新美联储通讯社”:美联储下周势将加息,一旦开启“很少只加一次”

华尔街见闻官方
2026-09-12 04:59:07
发现一个怪异的现象:稀土管制后,美西方的军工企业还正常生产?

发现一个怪异的现象:稀土管制后,美西方的军工企业还正常生产?

混沌录
2026-09-09 23:56:18
沈阳奔海自助再“翻车”?

沈阳奔海自助再“翻车”?

沈阳生活圈i
2026-09-10 14:56:38
2026-09-13 03:47:00
刘远举 incentive-icons
刘远举
易起探寻现象背后的事实与公正
413文章数 1726关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

男生去年693分考上北大后放弃 今年又拼了一次考714分

头条要闻

男生去年693分考上北大后放弃 今年又拼了一次考714分

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

钟丽淇疑入ICU?聚会合照早露端倪

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
旅游
家居
公开课
军事航空

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

旅游要闻

五世达赖亲自占卜选定的寺庙,当年预言里的清泉,如今去哪了?

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版