网易首页 > 网易号 > 正文 申请入驻

「不是,而是」:AI写作留给文字世界的特洛伊木马

0
分享至


本文来自微信公众号: 显影笔记 ,作者:MengZhi,原文标题:《「不是,而是」:AI写作留给文字世界的特洛伊木马》

上个月24日,投资人Druckenmiller在《华尔街日报》发表了一篇对于美国财政部债务回购政策的评论文章,反复使用的"不是,而是"让读者嗅到了AI写作的讯号。随后,Druckenmiller被迫承认使用了AI工具。承载了审慎思考的句式被AI占用,而人类编辑的把控在失效。一个新的问题出现:谁来为内容的可信度负责?

01

一个正在被察觉的AI写作“诡计”

最近,我开始在写作中有意识的避免使用“不是…而是…”的句式,甚至还减少了文章中的破折号。这两个形式正在快速成为AI写作的标识。根据巴伦周刊报道,过去2年,“不是,而是”的句式,在美国大型企业文件中的使用频率忽然翻倍增长,已达到历年的4倍以上。

上个月24日,投资人Stanley Druckenmiller发布在《华尔街日报》Opinion版面的署名文章,可谓对这一数据变化的亲身演绎,开篇即塞进了3次否定排比与并列句,也让读者察觉出AI写作痕迹。


“没有流拍,没有交易商资产负债表挤兑,没有强制平仓,没有任何类似2020年3月美债或2022年9月英国国债那种真正功能失调的情形,那种情形才配得上官方出手。波动得到了控制,交易井然有序——不是故障,而是机器在完成它的工作。”

学者Claudia Sahm使用检测工具Pangram分析,显示这篇内容为100%的AI写作。随后,Stanley Druckenmiller不得已承认使用了AI工具,但否认完全由AI代笔。

熟悉的句式结构被AI“挪用”,读者对于写作的信任也在坍塌,连表达者想要主张的观点也在失焦。就像诺兰电影《奥德赛》中的剧情,当特洛伊遭遇了“木马计”以后,每一次陆地居民看到“海上来的人”,感受到的是恐慌。

02

同一种句式,AI的写法为何让人不适?

“不是,而是”,是人类太过熟悉的表达。它通常服务于上下文全局,先否定一个默认的共识、一项误解,再给出一个判断、一项事实,展现了“一破一立”的叙事智慧。

这样的表达方式,承载了与信任相关的演说、社论、报告,成为了人类的集体记忆。其中,就包括了美国前总统肯尼迪1962年的“阿波罗登月计划”演讲。

这篇长达15分钟的演讲中,“不是,而是”的句式只被使用了1次,成为全篇点睛之笔——我们选择登月,不是因为它容易,而是因为它艰难。这句话高度凝聚了“迎难而上”的精神,驳斥了“安于现状”的幻想,让普通百姓也听懂了举国力支持登月探索的意义。

如今,AI Chatbot 10秒不到即可生成5次“不是,而是”。语气似人非人,无差别使用,仿佛是永动机器的产物。甚至,它不关心在前文刚刚说过什么,不了解现实世界中是否有误解需要推翻,有时候还会虚设一个不存在的反驳目标。

03

“不是,而是”背后的技术原理和商业权衡

在AI生成的内容中,“不是,而是”句式使用的方式五花八门,尚无一个放之四海而皆准的成因答案。但是,从模型的训练数据、训练机制,到生成机制来看,不难展开推测——

1.训练数据:“不是,而是”一直存在于优质内容范例中,作为递进式的洞察引导,比如前面提到的肯尼迪的“登月计划”演讲。对于大语言模型(LLM)来说,在最初的训练数据中即开始大量接触这一“句式”。

2.训练机制:AI对于这一句式的过度使用,则可能来自于后训练阶段的RLHF(基于人类反馈的强化学习)。石溪大学研究AI写作的计算机科学助理教授Tuhin Chakrabarty就对《大西洋周刊》表达过类似观点。

首先,这种结构层次分明、语气笃定的表达,很可能从一开始就赢得了人类标注者的高分评价。到了RLHF阶段,通常会使用一个代表人类偏好的“奖励模型”作为评审,对策略模型进行训练。当“奖励模型”进一步认可了“不是,而是”,就会强化LLM的相关表达,甚至可能被Reward Hacking。

3.生成机制:LLM的内容生成,本质是在做“下一个词的预测”。它结构完整、语义畅通,但无法保证每一句话出现在文章中恰到好处的位置,每一种句式以最适当的频率出现。于是,就出现了AI写下无数个“不是,而是”,而缺乏适当“呼吸与留白”,进一步造成了阅读体验的不适。

此外,在模型厂商的战略能力布局层面,Coding才是核心战场,写作从来不是产品重心。今年年初,Sam Altman回应GPT-5写作质量下滑的问题时表示:OpenAI把5.2版本的绝大部分精力放在了使其具备超强智力、推理、编程和工程的能力上。

04

这是一个产品技术问题,还是信任问题?

技术原因不难推演。值得思考的是,这座“特洛伊木马”应该被放行吗——那些不经披露、未经验证的AI写作,一次又一次冲击内容信任的行为。

因此,这也绝对不仅仅是一个“技术和产品够不够完美”、或者“如何做好Harness”的问题,它指向了「AI治理」。

2026年以来,以长文写作为主要载体的互联网社区,正在采取限制,避免AI冲击平台的信任根基:Substack、Quora上线了AI内容检测功能;Linkedin在8月份上线了对于“疑似AI创作”的举报,停用了AI写作优化功能。回顾近几年,这几大平台都在一定程度上遇到了“AI Slop(垃圾内容)”的困扰。

在围绕公共利益相关的内容主题,8月2日,欧盟《人工智能法案》第50条透明度规则正式生效。它在具体要求中提到,“其部署者须披露该文本系经人工智能生成或操纵”。

“不是,而是”句式的泛滥,用阅读体验上的“刺痛”,让我们有机会重新审视效率“野心”之下,人与AI的能力边界,思考在公开写作中,发布者需要承担的披露与内容责任。

管理AI所带来的内容信任冲击,行动才刚刚开始。也许就像1940年,英国在二战中取得阿拉曼战役大捷后,丘吉尔在演讲中所说的:这不是结束,这甚至不是结束的开始,但这毕竟是开始的结束。Now this is not the end.It is not even the beginning of the end.But it is,perhaps,the end of the beginning.

显影笔记

围绕人与技术,关注那些永恒不变的主题。追踪生成式人工智能时代的技术信任、人机合作边界;探索现象和叙事之下,那些尚待「显影」的逻辑。

封面图:The Procession of the Trojan Horse into Troy,Giovanni Domenico Tiepolo。

参考资料:

·It’s not just one thing—it’s another thing,TechCrunch

·Billionaire Stanley Druckenmiller’s WSJ Op-Ed Criticizing Bessent Was Written With AI,NOTUS

·The Most Famous AI Writing Tic Is Also the Most Mysterious,The Atlantic

·LinkedIn adds a button to report AI-generated‘slop’,TechCrunch

·Article 50:Transparency obligations for providers and deployers of certain AI systems

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4890032.html?f=wyxwapp

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
九月下旬开始喜临门,正财偏财都有的生肖,翻身机会在眼前!

九月下旬开始喜临门,正财偏财都有的生肖,翻身机会在眼前!

情感事聊
2026-09-13 10:32:43
付航上海脱口秀1000张黄牛票因信息不符被拦,僵持20分钟后主办方放弃核验

付航上海脱口秀1000张黄牛票因信息不符被拦,僵持20分钟后主办方放弃核验

韩小娱
2026-09-12 15:44:45
退出中国国籍?李凯尔表态,官宣决定,3年未出战,归化费用曝光

退出中国国籍?李凯尔表态,官宣决定,3年未出战,归化费用曝光

喜欢体育的猫
2026-09-12 08:09:25
高市没想到,中方下手这么重,日本签证费暴涨7倍,这叫以牙还牙

高市没想到,中方下手这么重,日本签证费暴涨7倍,这叫以牙还牙

麓谷隐士
2026-09-12 17:31:42
消息称国产折叠屏学习苹果iPhone Duo开合透视动画

消息称国产折叠屏学习苹果iPhone Duo开合透视动画

IT之家
2026-09-12 20:09:17
热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

蝴蝶花雨话教育
2026-08-18 09:57:05
中方准时送客,美代表团离境,回国第一件事,就是纠正对华认知

中方准时送客,美代表团离境,回国第一件事,就是纠正对华认知

趣文说娱
2026-09-13 06:21:41
二叔欠30万十五年未还,我从未讨要,他女儿出嫁我拿着借条收礼金

二叔欠30万十五年未还,我从未讨要,他女儿出嫁我拿着借条收礼金

张道陵秘话
2025-09-25 17:48:36
油价暗盘暴跌!特朗普TACO时刻要来了

油价暗盘暴跌!特朗普TACO时刻要来了

格隆汇
2026-09-12 17:37:46
2.1L宣传油耗实测4L,偏差90%算不算欺骗?

2.1L宣传油耗实测4L,偏差90%算不算欺骗?

周哥一影视
2026-09-12 15:25:22
山东一店主称举报文物失踪后频遭多部门检查,当地回应,律师:被恶意举报证据尚不完整

山东一店主称举报文物失踪后频遭多部门检查,当地回应,律师:被恶意举报证据尚不完整

潇湘晨报
2026-09-12 19:32:21
离谱!iPhone Duo 刚发布,就遭全网追杀

离谱!iPhone Duo 刚发布,就遭全网追杀

芝麻科技讯官方号
2026-09-11 12:28:56
川普发表惊人言论

川普发表惊人言论

战争研究所
2026-09-11 00:07:43
不查不知道,一查吓一跳!出场费10万,但节俭的朱之文,私下多壕

不查不知道,一查吓一跳!出场费10万,但节俭的朱之文,私下多壕

兵卒史
2026-09-13 10:55:06
拉什福德抱怨曼联前主帅没教好自己!B费称其已脱胎换骨,第二早到场训练

拉什福德抱怨曼联前主帅没教好自己!B费称其已脱胎换骨,第二早到场训练

罗米的曼联博客
2026-09-13 10:48:14
萧美琴称自己是“战猫”,在意大利叫嚣“台湾虽小,但力量强大”

萧美琴称自己是“战猫”,在意大利叫嚣“台湾虽小,但力量强大”

金牛传声
2026-09-13 09:11:25
62岁雷宇扬去世!7月最后露面,脸色苍白浮肿,死因曝光太可惜

62岁雷宇扬去世!7月最后露面,脸色苍白浮肿,死因曝光太可惜

揽星河的笔记
2026-09-12 22:40:03
完全出乎意料!伊朗发射的导弹并未直接命中F-35战机,却精准击中了美军最核心的软肋:整场军事行动的战争成本已经彻底失控

完全出乎意料!伊朗发射的导弹并未直接命中F-35战机,却精准击中了美军最核心的软肋:整场军事行动的战争成本已经彻底失控

人生录
2026-09-12 00:05:19
《兄弟连》开播25周年,居然出了新片!原班主演出镜,大家都老了

《兄弟连》开播25周年,居然出了新片!原班主演出镜,大家都老了

头号电影院
2026-09-12 08:38:28
岛内政局大变天!郑丽文一个决定让内鬼集体现形,赖清德急得跳脚

岛内政局大变天!郑丽文一个决定让内鬼集体现形,赖清德急得跳脚

杰丝聊古今
2026-09-12 05:38:20
2026-09-13 12:56:49
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
27792文章数 688066关注度
往期回顾 全部

科技要闻

三位AI大佬,罕见呼吁AI减速

头条要闻

71岁敬一丹去世 家属向知情人表示:其后事一切从简

头条要闻

71岁敬一丹去世 家属向知情人表示:其后事一切从简

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

主持人敬一丹去世,女儿悲痛发讣告

财经要闻

“1+N+X”!私募业,监管规则密集落地!

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

旅游
游戏
房产
家居
亲子

旅游要闻

文汇视讯   点亮申城,演绎精彩!上海旅游节大巡游亮相外滩

《暗黑破坏神5》宣布2029年春季发售

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

到底是星期几写的?太逗了

无障碍浏览 进入关怀版