网易首页 > 网易号 > 正文 申请入驻

315曝光AI投毒,恰好证明了《2028年全球智能危机》错了

0
分享至


3月15日晚,央视“3·15”晚会曝光了利用GEO(生成式引擎优化)技术向AI大模型“投毒”的新型黑色产业链。“力擎GEO优化系统”被点名,报道指出其通过批量生成虚假软文并进行矩阵式发布,污染AI大模型的数据抓取源,进而操纵AI的推荐结果。

三家AI都在紧急回应315。

豆包回应:没有受到影响。

千问回应:不会影响核心知识体系。

DeepSeek回应:理论上可能存在影响,但风险可控。

有记者编造了一家无资质、无地址、无团队的“三无”虚构医美机构,花100元成本,半天时间之后,就能登上某主流大模型的医美推荐榜。100元只是一个体验价格,如果要想长期在大模型中露出,包年套餐价格高达数万元。

这种让AI回答中带有特定品牌的服务叫作GEO(Generative Engine Optimization,生成引擎优化),指广告营销公司为品牌客户生产、调整内容,使相应内容更容易被AI抓取,并出现在AI的回答里,以达到增加品牌曝光度或改变AI回答的效果。

其实,GEO也不算新鲜事。以前在搜索引擎时代,就有SEO(Search Engine Optimization,搜索引擎优化)。SEO 的核心原理是优化网站结构、内容和外部链接,使其更符合搜索引擎的抓取和索引规则,从而提升可见度和流量。

GEO作为一种服务,当前监管尚未明晰,并不违法。合法的GEO确实助力了一些品牌在AI回应中取得优先展示的机会。但灰色的甚至非法的GEO,则会通过大量制造低质甚至虚假内容、虚构排行榜等方式污染大模型的数据源,扰乱了大模型的输出结果,从而对消费者的决策造成误导,则违背了广告法的相关规定。目前,这种灰色现象,在医美、保健品等有准入门槛,利润又高的行业,更加严重。一些不法广告营销公司,甚至不进行最基本的资质审查。

其实,这种现象在SEO时代也有,但是,基于AI的特点,灰黑产GEO对消费者的侵害会更大。


以前通过搜索引擎搜索关键词,然后会跳转到一个页面,网民知道这是一个独立的页面,信任会降低。再加上网页内容通常并不能直接提供答案,需要用户自己提炼。这个提炼的过程,某种程度上是伴随审视和质疑的。

但现在,很多人会认为,AI具有智能,有排除“假冒伪劣信息”的能力,对AI给出的答案也更加信任。而且,AI简化为“提问——答案”,效果更加简洁直接,给出的是一个针对性很强的答案,人提取信息这一环就消失了,提取信息过程中的审视、质疑也随之消失了。所以,现在大部分人都还没有建立对AI回答的应有质疑之心,这就很容易上当。用户以为大模型给出的是客观结果,但实际上,却有可能是大模型被人为污染,从一些推广文章中抓下来的答案。

据记者了解,当前包含豆包、DeepSeek、千问、腾讯元宝、文心一言、Kimi等主流AI大模型平台方暂未明确出台关于GEO优化内容的规范。不过,推出大模型的厂商,有动力也有技术能力去保障自己大模型的客观性。据GEO服务商反映,已有平台在做出调整。


这不是一家的行为,而是整个行业的行为。2026年2月3日,中国人工智能产业发展联盟(AIIA)发起的《人工智能安全承诺:生成式引擎优化(GEO)专项》正式签署。10家GEO行业相关企业参与签署。2026年3月3日,中国信通院人工智能研究所正式启动首轮《生成式引擎优化(GEO)可信基本要求》评测工作。

监管也正在跟上,1月29日,市场监管总局广告监管司发布《2026年全国广告监管工作要点》,其中明确提出,整治互联网广告市场秩序。聚焦直播电商广告、引证广告、AI生成广告等互联网广告监管重点难点问题,开展集中整治。

行业自律,监管跟上,并不是要一棒子打死,而是要规范这个新兴行业。目前,国内所有主流AI模型,都没有开放基于GEO优化的官方API接口。所谓官方API接口,简单地说,就是大模型官方亲自下场,用大模型做广告。以后是否会开放这种接口呢?比如,当用户问什么空调最好的时候,它有倾向性地推荐某品牌。我觉得答案是肯定的。现在各家大模型还在争取客户阶段,大家会努力做好客观性,将来到了要赚钱的时候,大模型中包含广告,几乎是一定会出现的,就像现在的搜索引擎都有广告。

这是一个大市场,根据多家机构对GEO行业的预判,2030年中国GEO行业市场规模将达到240亿元。

从更长远上看,大模型必然具有的这种不可完全信任性,反而能保障人类的市场经济,不会在短期内崩溃。

前段时间,一份名为《2028年全球智能危机》(The 2028 Global Intelligence Crisis)的报告,引发了广泛的关注。这份预言式的推演报告,推演了AI在2028年可能带来的经济危机,一度引发美股情绪恐慌与下跌。这个报告的观点之一就是,AI穿透中介的信息不对等,会导致中介以及所有基于信息不对称的行业的覆灭。

但是GEO则是一个清晰的例子,它告诉我们,AI也不会是完全中立的。

从技术上来说,ai会被投毒,是因为大模型分得清鸟和家具,但分不清知更鸟和企鹅谁更像鸟。AI可以将新闻归类为体育、科技、娱乐,但它分不清楚一篇评测文章是中立的还是带有倾向的。

更重要的是,Ai厂商回应了央视315晚会,但他们没有说未来不会商业化,没有任何AI能承诺自己不商业化。

所以,所谓消除中介,本身就是一个悖论。非常完善的帮助用户消除中介环节信息差的AI,本身在经济上就是不可行的。打个比方,A公司的AI助手,不把生意留在A公司的生态,这样不带偏向的AI,本身就不可能出现。但如果AI把生意留在公司生态之内,那它就不是一个完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的决策。而只要人参与决策,信息差就会存在。

只要经济系统中,人的决策存在,人性就会重新定义稀缺。

可想而知,当你让AI帮你做攻略的时候,它提供的,未必是最合适你的,而是它所在的生态,能赚更多钱的。那么AI给出的答案,仍然需要人去鉴别,用户仍然需要留一个心眼。那么,AI 就不可能完全消灭基于信息不对称的行业。

刘 远 举


央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家,多家智库研究员。

关注时政、财经、科技话题,以深度、专业、理性的态度,去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载,欢迎转载

已开过白名单的公众号,转载请遵循转载规则

您的关注是最好的支持!


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《暗黑5》首发职业将是历代以来最多 瘟疫骑士首次登场

《暗黑5》首发职业将是历代以来最多 瘟疫骑士首次登场

3DM游戏
2026-09-13 08:55:10
保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

z千年历史老号
2026-09-07 11:43:45
“电动车”集体降价,部分车型直降千元,但劝您先别急着下单

“电动车”集体降价,部分车型直降千元,但劝您先别急着下单

白米饭怎么吃
2026-09-12 21:49:28
二叔欠30万十五年未还,我从未讨要,他女儿出嫁我拿着借条收礼金

二叔欠30万十五年未还,我从未讨要,他女儿出嫁我拿着借条收礼金

张道陵秘话
2025-09-25 17:48:36
史上最垃圾?东契奇交易,最终换成了什么?

史上最垃圾?东契奇交易,最终换成了什么?

篮球实录
2026-09-12 15:29:30
知名连锁木桶饭被指木桶不洗不消毒,有的甚至长出绿色霉斑,顾客提醒反被辱骂“你有病吧,以后门都不让你进”

知名连锁木桶饭被指木桶不洗不消毒,有的甚至长出绿色霉斑,顾客提醒反被辱骂“你有病吧,以后门都不让你进”

大风新闻
2026-09-12 17:57:03
半年净赚1.15万亿元,谁在托举银行股走强?

半年净赚1.15万亿元,谁在托举银行股走强?

财经杂志
2026-09-12 15:15:01
A股:证监会最新重拳打击,释放四强烈信号!下周将迎来两大变数

A股:证监会最新重拳打击,释放四强烈信号!下周将迎来两大变数

虎哥闲聊
2026-09-13 00:00:04
头一回对护眼冷知识肃然起敬,网友:码住了!

头一回对护眼冷知识肃然起敬,网友:码住了!

另子维爱读史
2026-09-09 20:40:03
这个海航空姐,因为在飞机上帮乘客带娃火了

这个海航空姐,因为在飞机上帮乘客带娃火了

毒舌八卦
2026-09-12 17:51:49
2026年,养老金重算补发陆续到账,为什么有人补500元,有人能补1500元?

2026年,养老金重算补发陆续到账,为什么有人补500元,有人能补1500元?

碎月导师
2026-09-13 07:00:03
中方收到通知,除图们江大桥外,新增跨境铁路,普京打一手好算盘

中方收到通知,除图们江大桥外,新增跨境铁路,普京打一手好算盘

观烽墟
2026-09-12 00:05:11
突然宣布二胎,高调晒出照片,热搜炸了:你俩居然还没离婚?

突然宣布二胎,高调晒出照片,热搜炸了:你俩居然还没离婚?

LULU生活家
2026-08-28 20:08:31
美国梦碎、欧洲躺平、中国内卷:普通人阶层跨越的终极真相(2026深度好文)

美国梦碎、欧洲躺平、中国内卷:普通人阶层跨越的终极真相(2026深度好文)

经济学教授V
2026-09-03 19:17:17
拆掉电视后,我把120英寸影院塞进了柜子

拆掉电视后,我把120英寸影院塞进了柜子

固件更新中
2026-09-12 06:02:56
当场破局!莫迪私开后门邀菲律宾参会,金砖峰会未开先起波澜

当场破局!莫迪私开后门邀菲律宾参会,金砖峰会未开先起波澜

小小科普员
2026-09-11 20:07:15
宇树科技1100贵吗?贵!现在跌到477还贵吗?贵!那多少才不贵?

宇树科技1100贵吗?贵!现在跌到477还贵吗?贵!那多少才不贵?

王二哥老搞笑
2026-09-12 20:08:13
4-2横扫张本智和!19岁国乒天才连斩5大世界名将,一战封神

4-2横扫张本智和!19岁国乒天才连斩5大世界名将,一战封神

阿讯说天下
2026-05-30 14:20:24
结婚10多年妻子意外发现,自己年入200万的丈夫,竟然是父母当年介绍,自己死活不要的相亲对象

结婚10多年妻子意外发现,自己年入200万的丈夫,竟然是父母当年介绍,自己死活不要的相亲对象

黎兜兜
2026-09-11 23:09:52
北京二手房:逆天增长

北京二手房:逆天增长

坠入二次元的海洋
2026-09-13 05:23:40
2026-09-13 09:27:00
刘远举 incentive-icons
刘远举
易起探寻现象背后的事实与公正
413文章数 1727关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

敬一丹去世享年71岁 6月在家乡哈尔滨突发急性脑出血

头条要闻

敬一丹去世享年71岁 6月在家乡哈尔滨突发急性脑出血

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

钟丽淇疑入ICU?聚会合照早露端倪

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

艺术
家居
房产
公开课
军事航空

艺术要闻

大唐名媛的游园图鉴:簪花、薄纱、遛鹤逗犬

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版