网易首页 > 网易号 > 正文 申请入驻

「不是,而是」:AI写作留给文字世界的特洛伊木马

0
分享至


本文来自微信公众号: 显影笔记 ,作者:MengZhi,原文标题:《「不是,而是」:AI写作留给文字世界的特洛伊木马》

上个月24日,投资人Druckenmiller在《华尔街日报》发表了一篇对于美国财政部债务回购政策的评论文章,反复使用的"不是,而是"让读者嗅到了AI写作的讯号。随后,Druckenmiller被迫承认使用了AI工具。承载了审慎思考的句式被AI占用,而人类编辑的把控在失效。一个新的问题出现:谁来为内容的可信度负责?

01

一个正在被察觉的AI写作“诡计”

最近,我开始在写作中有意识的避免使用“不是…而是…”的句式,甚至还减少了文章中的破折号。这两个形式正在快速成为AI写作的标识。根据巴伦周刊报道,过去2年,“不是,而是”的句式,在美国大型企业文件中的使用频率忽然翻倍增长,已达到历年的4倍以上。

上个月24日,投资人Stanley Druckenmiller发布在《华尔街日报》Opinion版面的署名文章,可谓对这一数据变化的亲身演绎,开篇即塞进了3次否定排比与并列句,也让读者察觉出AI写作痕迹。


“没有流拍,没有交易商资产负债表挤兑,没有强制平仓,没有任何类似2020年3月美债或2022年9月英国国债那种真正功能失调的情形,那种情形才配得上官方出手。波动得到了控制,交易井然有序——不是故障,而是机器在完成它的工作。”

学者Claudia Sahm使用检测工具Pangram分析,显示这篇内容为100%的AI写作。随后,Stanley Druckenmiller不得已承认使用了AI工具,但否认完全由AI代笔。

熟悉的句式结构被AI“挪用”,读者对于写作的信任也在坍塌,连表达者想要主张的观点也在失焦。就像诺兰电影《奥德赛》中的剧情,当特洛伊遭遇了“木马计”以后,每一次陆地居民看到“海上来的人”,感受到的是恐慌。

02

同一种句式,AI的写法为何让人不适?

“不是,而是”,是人类太过熟悉的表达。它通常服务于上下文全局,先否定一个默认的共识、一项误解,再给出一个判断、一项事实,展现了“一破一立”的叙事智慧。

这样的表达方式,承载了与信任相关的演说、社论、报告,成为了人类的集体记忆。其中,就包括了美国前总统肯尼迪1962年的“阿波罗登月计划”演讲。

这篇长达15分钟的演讲中,“不是,而是”的句式只被使用了1次,成为全篇点睛之笔——我们选择登月,不是因为它容易,而是因为它艰难。这句话高度凝聚了“迎难而上”的精神,驳斥了“安于现状”的幻想,让普通百姓也听懂了举国力支持登月探索的意义。

如今,AI Chatbot 10秒不到即可生成5次“不是,而是”。语气似人非人,无差别使用,仿佛是永动机器的产物。甚至,它不关心在前文刚刚说过什么,不了解现实世界中是否有误解需要推翻,有时候还会虚设一个不存在的反驳目标。

03

“不是,而是”背后的技术原理和商业权衡

在AI生成的内容中,“不是,而是”句式使用的方式五花八门,尚无一个放之四海而皆准的成因答案。但是,从模型的训练数据、训练机制,到生成机制来看,不难展开推测——

1.训练数据:“不是,而是”一直存在于优质内容范例中,作为递进式的洞察引导,比如前面提到的肯尼迪的“登月计划”演讲。对于大语言模型(LLM)来说,在最初的训练数据中即开始大量接触这一“句式”。

2.训练机制:AI对于这一句式的过度使用,则可能来自于后训练阶段的RLHF(基于人类反馈的强化学习)。石溪大学研究AI写作的计算机科学助理教授Tuhin Chakrabarty就对《大西洋周刊》表达过类似观点。

首先,这种结构层次分明、语气笃定的表达,很可能从一开始就赢得了人类标注者的高分评价。到了RLHF阶段,通常会使用一个代表人类偏好的“奖励模型”作为评审,对策略模型进行训练。当“奖励模型”进一步认可了“不是,而是”,就会强化LLM的相关表达,甚至可能被Reward Hacking。

3.生成机制:LLM的内容生成,本质是在做“下一个词的预测”。它结构完整、语义畅通,但无法保证每一句话出现在文章中恰到好处的位置,每一种句式以最适当的频率出现。于是,就出现了AI写下无数个“不是,而是”,而缺乏适当“呼吸与留白”,进一步造成了阅读体验的不适。

此外,在模型厂商的战略能力布局层面,Coding才是核心战场,写作从来不是产品重心。今年年初,Sam Altman回应GPT-5写作质量下滑的问题时表示:OpenAI把5.2版本的绝大部分精力放在了使其具备超强智力、推理、编程和工程的能力上。

04

这是一个产品技术问题,还是信任问题?

技术原因不难推演。值得思考的是,这座“特洛伊木马”应该被放行吗——那些不经披露、未经验证的AI写作,一次又一次冲击内容信任的行为。

因此,这也绝对不仅仅是一个“技术和产品够不够完美”、或者“如何做好Harness”的问题,它指向了「AI治理」。

2026年以来,以长文写作为主要载体的互联网社区,正在采取限制,避免AI冲击平台的信任根基:Substack、Quora上线了AI内容检测功能;Linkedin在8月份上线了对于“疑似AI创作”的举报,停用了AI写作优化功能。回顾近几年,这几大平台都在一定程度上遇到了“AI Slop(垃圾内容)”的困扰。

在围绕公共利益相关的内容主题,8月2日,欧盟《人工智能法案》第50条透明度规则正式生效。它在具体要求中提到,“其部署者须披露该文本系经人工智能生成或操纵”。

“不是,而是”句式的泛滥,用阅读体验上的“刺痛”,让我们有机会重新审视效率“野心”之下,人与AI的能力边界,思考在公开写作中,发布者需要承担的披露与内容责任。

管理AI所带来的内容信任冲击,行动才刚刚开始。也许就像1940年,英国在二战中取得阿拉曼战役大捷后,丘吉尔在演讲中所说的:这不是结束,这甚至不是结束的开始,但这毕竟是开始的结束。Now this is not the end.It is not even the beginning of the end.But it is,perhaps,the end of the beginning.

显影笔记

围绕人与技术,关注那些永恒不变的主题。追踪生成式人工智能时代的技术信任、人机合作边界;探索现象和叙事之下,那些尚待「显影」的逻辑。

封面图:The Procession of the Trojan Horse into Troy,Giovanni Domenico Tiepolo。

参考资料:

·It’s not just one thing—it’s another thing,TechCrunch

·Billionaire Stanley Druckenmiller’s WSJ Op-Ed Criticizing Bessent Was Written With AI,NOTUS

·The Most Famous AI Writing Tic Is Also the Most Mysterious,The Atlantic

·LinkedIn adds a button to report AI-generated‘slop’,TechCrunch

·Article 50:Transparency obligations for providers and deployers of certain AI systems

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4890032.html?f=wyxwapp

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
绍兴7个葫芦,摘下没几天又挂回来了!“葫芦爷爷”回应:人家大老远跑来,看不到葫芦,我们心里也过意不去,说实话摘下来是不情愿的

绍兴7个葫芦,摘下没几天又挂回来了!“葫芦爷爷”回应:人家大老远跑来,看不到葫芦,我们心里也过意不去,说实话摘下来是不情愿的

台州交通广播
2026-09-11 23:57:26
3000亿一冻,美国彻底怂了!踢出美元体系这狠话,为啥不敢再提?

3000亿一冻,美国彻底怂了!踢出美元体系这狠话,为啥不敢再提?

趣味萌宠的日常
2026-09-12 02:58:29
上手iPhone Duo后我改主意了:折叠屏为何必须做到这么好?

上手iPhone Duo后我改主意了:折叠屏为何必须做到这么好?

报错免疫体
2026-09-11 00:30:16
OpenAI首席财务官弗莱尔最新访谈:一年前买入的算力设备,如今可以3-5倍价格卖出!

OpenAI首席财务官弗莱尔最新访谈:一年前买入的算力设备,如今可以3-5倍价格卖出!

投资者内参
2026-09-11 18:12:23
敲定日程!泽连斯基:9,月底乌美俄三方纽约会面,我信仰和平

敲定日程!泽连斯基:9,月底乌美俄三方纽约会面,我信仰和平

你是我心中最美星空
2026-09-12 13:32:43
百亿资金灰飞烟灭!把公司108个美女当作后宫,丁宁到底有多狠?

百亿资金灰飞烟灭!把公司108个美女当作后宫,丁宁到底有多狠?

潋滟晴方DAY
2026-09-02 15:24:52
68 岁大爷糖尿病恶化去世,从不饮酒!提醒:只因早上爱做 3 件事!

68 岁大爷糖尿病恶化去世,从不饮酒!提醒:只因早上爱做 3 件事!

叙说医疗健康
2026-09-12 06:00:17
五站全胜的18岁严子怡,为何让标枪教父送枪前先找教练?

五站全胜的18岁严子怡,为何让标枪教父送枪前先找教练?

愿你余生安好嘴角带笑
2026-09-12 12:04:03
上厕所时,大便前头干硬,后头软黏,说明什么?看完涨知识了

上厕所时,大便前头干硬,后头软黏,说明什么?看完涨知识了

芹姐说生活
2026-09-03 23:27:20
普京和越南一致同意,借道中国打通南北?借道中国铁路要大干一场

普京和越南一致同意,借道中国打通南北?借道中国铁路要大干一场

闻识
2026-09-12 02:03:20
人活多久,看起夜就知道?寿命短的人,起夜一般有这3个特征

人活多久,看起夜就知道?寿命短的人,起夜一般有这3个特征

芹姐说生活
2026-09-10 23:50:29
毛主席雕塑翘着二郎腿,被认为不雅观,华国锋:恰好显得和蔼可亲

毛主席雕塑翘着二郎腿,被认为不雅观,华国锋:恰好显得和蔼可亲

谈古论今历史有道
2026-08-21 08:50:05
詹妮弗·劳伦斯开Instagram,画风完全失控

詹妮弗·劳伦斯开Instagram,画风完全失控

影视情报室
2026-09-12 00:42:26
广西女子洪水中被毒蛇咬伤身亡,蛇场只愿给2万元补偿,因无法证明毒蛇来源,警方未立案,家属欲起诉!律师:非法养殖不能因洪水免责

广西女子洪水中被毒蛇咬伤身亡,蛇场只愿给2万元补偿,因无法证明毒蛇来源,警方未立案,家属欲起诉!律师:非法养殖不能因洪水免责

都市快报橙柿互动
2026-09-12 09:05:28
斯诺克疯狂一夜!逆转绝杀,4强诞生,世界冠军惨败,中国仅剩1人

斯诺克疯狂一夜!逆转绝杀,4强诞生,世界冠军惨败,中国仅剩1人

南海浪花
2026-09-12 03:16:00
AI将摧毁民主,统治者将转向控制、镇压而非分享权力

AI将摧毁民主,统治者将转向控制、镇压而非分享权力

修明札记
2026-09-09 13:46:04
改革开放后三大耻辱,每一件都是民族伤疤

改革开放后三大耻辱,每一件都是民族伤疤

回京历史梦
2026-09-12 09:24:59
河南一男子享受“皇帝”待遇,养几十个女人,还说有钱就要这样干

河南一男子享受“皇帝”待遇,养几十个女人,还说有钱就要这样干

江山挥笔
2026-03-15 18:13:59
头一回对护眼冷知识肃然起敬,网友:码住了!

头一回对护眼冷知识肃然起敬,网友:码住了!

另子维爱读史
2026-09-09 20:40:03
张雪公开致歉:由于个人管理能力不足,修养不足,让大家失望了

张雪公开致歉:由于个人管理能力不足,修养不足,让大家失望了

毒sir财经
2026-09-09 18:32:42
2026-09-12 16:04:49
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
27777文章数 688065关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

哈里夫妇返回英国 不满被国王信函定义为"普通公民"

头条要闻

哈里夫妇返回英国 不满被国王信函定义为"普通公民"

体育要闻

老鹰真正的底气来自于什么?

娱乐要闻

港媒曝钟丽淇疑患渐冻症,本人发文

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

健康
数码
旅游
时尚
军事航空

手脚发麻口齿不清?也可能是中风!

数码要闻

Wildcat Lake款戴尔14轻薄本上市:酷睿5 320版5999元

旅游要闻

呼和浩特:工业文旅赋能“世界乳都”建设

专栏|一位“皮笑肉不笑”初学者的自述

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版