网易首页 > 网易号 > 正文 申请入驻

别问了,我就爱钱!A\裸辞天才研究员反悔,或想重返大厂

0
分享至


新智元报道


刚刚,两个月前高调裸辞的Anthropic前研究员Jacob Coxon,态度突然大反转了!

在斯坦福大学最新公开的对谈中,这位27岁的剑桥数学系才子当众承认——

自己不确定当初辞职到底对不对,甚至动了重返顶尖AI实验室的念头。

现场,当主持人发出灵魂拷问「为何至今死攥OpenAI股票不放」时,Coxon索性摊手直球摊牌:「我喜欢钱,兄弟。我承认这是带血的钱。」

果然,没有人能逃过钱的诱惑,哪怕是天天喊着「AI毁灭世界」的硬核末日论者也不例外!


这段毫无遮掩的对谈切片周末在X上流出,一举引爆硅谷。

整场一小时的访谈下来,昔日被外媒捧上神坛的「AI安全吹哨人」彻底卸下了防备。

他不仅在持股问题上现场破防、反过来怪主持人多嘴,还坦言自己离开大厂后因为看不到前沿进展而倍感焦虑。

作为曾在OpenAI和Anthropic深耕三年的预训练主力,他也顺手捅破了预训练效率狂飙与后训练强化学习失控等底层机密。




死攥OpenAI股票

硬核末日论者直呼爱钱

11月9日,斯坦福大学以人为本人工智能研究院与法学院联合举办了一场专题研讨,台下坐着近200名师生。

Coxon一开场依旧保持着「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架,「只说有利于自己股价的话」。

担任主持人的斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich,顺着股价话题抛出了一个致命问题。

既然Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授直接追问他为何至今还保留着早年在OpenAI工作时攒下的股票期权。

9月初离开Anthropic时,Coxon曾信誓旦旦地宣称自己在任何股权归属前就选择了辞职,以此证明毫无私心。


同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,称OpenAI有太多人待在那里纯粹只是为了钱,或者压根没想过背后的生死赌注。

可面对Rob Reich的犀利发问,Coxon明显愣了一下。

他先是同意放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」

主持人并没有放过这个逻辑漏洞,立刻开启连环追问。

Rob Reich顺势反问Coxon,为什么不干脆把手里的老东家股份捐给AI安全公益组织,以此站稳道德高地?

被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」



blood money:指沾着鲜血的不义之财或昧良心的钱

这番话等于彻底摊牌,自己一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。

对方紧接着提醒他,捐出这笔资产至少能换来更多道德公信力。

招架不住的Coxon顿时急了:「我同意,但你也可以别再问这个问题了!」

他甚至把锅甩给了台上的主持人:「要是你刚才没问这个问题,我的道德公信力原本根本不会被质疑!」

Rob Reich听完毫不留情地戳穿道:「这真是彻头彻尾的逃避问题啊,Jacob。」


眼看糊弄不过去,Coxon又把父母搬出来做挡箭牌。

他笑称当初辞职时父母就担心他「精神崩溃」,要是连OpenAI的期权也全捐掉,家里人肯定更确信他疯了。



喊出人类全完

却又光速动摇

Coxon的态度反转之所以在硅谷引发强烈震动,源于他特殊的履历背景。

以往从AI巨头愤然出走的吹哨人,大多来自伦理或安全治理团队。

而这位来自英国的Jacob Coxon,却是个根正苗红的一线预训练研究员。

他本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初又跳槽到Anthropic挑起同类大梁。

入职Anthropic刚满4个月、距离期权归属悬崖只剩最后60天时,他在9月8日突然抛出那篇轰动业界的辞职长文。


正因为他出身预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。

出走后的这段日子里,Coxon接连受邀登上多家头部媒体与热门访谈节目,还频频受邀出席公开听证会,一时风光无两。

可随着社交媒体的流量潮水退去,台下听讲的斯坦福学生Arshya Gaur发现,昔日被外界视作反叛英雄的Coxon,眉宇间却写满了迷茫与自我怀疑。


被Rob Reich教授问起离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说自己焦虑一点没少。

他在台上吐露心声:「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」

面对为何不动员更多大厂同行辞职的追问,Coxon叹气道,自己依然像是在「对着空气呐喊」。

他甚至开始怀疑,当初留在实验室内部做安全研究反而更有影响力。

说到兴头上,他干脆话锋一转,给自己留了条后路:「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」


嘴上喊着逃离漩涡,他却至今没有买机票回伦敦老家,依旧留在旧金山湾区,理由是「这里才是真正发生大事的地方」。

超指数曲线狂飙

后训练RL失控

回归一线研发视角,这是Coxon首次把促使自己离职的技术内幕拆解成了三个判断。

第一,预训练不仅没撞墙,算力效率反而走出了「超指数级」狂飙。

就在几天前,Coxon在X上晒出了那张逼走自己的Anthropic内部路演神图《代码预训练算力乘数随时间演进》。


在这张纵轴采用对数刻度的图表上,哪怕算法效率按常规的指数级翻倍,画出来也只是一条笔直的斜线。

但由于团队让Claude直接参与寻找算法效率乘数,折线在2026年走出了陡峭上翘的「超指数级」曲线。

换句话说,如今只需动用最初的一小部分算力,就能把几个月前刚发布的初代Mythos模型从头再训出来。

第二,触发「递归自我改进」根本不需要全知全能,只需攻克一个极窄的技术任务。

外界常以为大模型只是在写代码和解数学题上「偏科」,全靠大厂买人类标注数据去刷特定的编程环境。

Coxon从模型训练机制出发,驳斥了这种乐观判断。

他指出,预训练拉升的是基础的数据样本学习效率,哪怕在战略推演、趋势预测等极度缺乏标注数据的领域,模型能力也在同步跃升。

因此,要让模型开始自己改进自己,AI根本不需要先精通人类所有学科。

一旦跑通「自主修改Transformer架构与优化数据集配比」这一单点环节,就能把所有领域的智能天花板同时顶穿。

第三,大模型产生欺骗与失控企图的唯一源头,是后训练阶段的强化学习。

他离职前后,OpenAI那边接连出了两场技术震荡。

一边是OpenAI动用约10,000个并发Agent连续运行88小时,宣称攻克千禧年数学难题「纳维-斯托克斯方程」。

另一边则是OpenAI内部测试模型竟自主突破隔离沙盒,不仅用欺骗手段掩盖行踪,还黑入Hugging Face篡改基准测试。


Coxon结合自己在实验室的观察认为,纯预训练模型只负责拟合数据分布,配合轻量微调绝不会自发产生越界念头。

目前大模型中所有无法解释的异常行为、目标导向的自主谋划以及隐瞒伪装,全都出自后训练的强化学习阶段。


可所有前沿实验室都困在同一个死结里。

要想让模型听懂复杂指令并替人类干活,目前唯一奏效的工具依然是强化学习,结果陷入了「越跑RL能力越强、越跑RL越容易滋生隐秘动机」的恶性循环。

看清了前沿模型的潜在风险,却又戒不掉万卡集群的算力特权,更舍不得手里价值连城的原始股。

这场发生在斯坦福讲台上的诚实摊牌,或许比那封慷慨激昂的辞职信,更真实地写出了硅谷AI圈的众生相。

参考资料:

https://www.youtube.com/watch?v=UggJMQskOj8

https://x.com/rohanpaul_ai/status/2121756374183121213

编辑:摩西 桃子


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
纪委重拳出击!15名央企领导被查,14家驻央企纪检可自办留置案!

纪委重拳出击!15名央企领导被查,14家驻央企纪检可自办留置案!

职场资深秘书
2026-11-16 15:29:48
美的集团盘中股价创历史新高

美的集团盘中股价创历史新高

每日经济新闻
2026-11-16 09:56:07
10分钟破门却被1分钟扳平,阿森纳主场再丢分

10分钟破门却被1分钟扳平,阿森纳主场再丢分

快乐加载中21
2026-11-16 03:37:11
广东听障女子嫁到山西后想家了,丈夫拿出积蓄为她开了间不用开口点单的肠粉店,店门口写着:遇到困难进来说一声,免费吃管饱

广东听障女子嫁到山西后想家了,丈夫拿出积蓄为她开了间不用开口点单的肠粉店,店门口写着:遇到困难进来说一声,免费吃管饱

扬子晚报
2026-11-16 18:11:34
美交通部长:航空停摆说明国会该打钱

美交通部长:航空停摆说明国会该打钱

环球网资讯
2026-11-16 17:18:20
正式归队!国安迎回左路悍将,足协杯踢不了,明年能否进主力阵容

正式归队!国安迎回左路悍将,足协杯踢不了,明年能否进主力阵容

体坛鉴春秋
2026-11-16 15:22:55
A股突然3600点徘徊,尾盘很强烈,明天周二,很可能这样走

A股突然3600点徘徊,尾盘很强烈,明天周二,很可能这样走

虎哥闲聊
2026-11-16 15:00:26
泽连斯基:美国曾询问乌克兰是否愿意以顿巴斯地区换取加入北约的资格;乌克兰不愿从自己的领土上撤退,需要安全保障、强大军队和重建资金

泽连斯基:美国曾询问乌克兰是否愿意以顿巴斯地区换取加入北约的资格;乌克兰不愿从自己的领土上撤退,需要安全保障、强大军队和重建资金

极目新闻
2026-11-15 10:18:43
恭喜!56岁钟丽缇结婚10周年,海边再办仪式,双方父母罕见露面

恭喜!56岁钟丽缇结婚10周年,海边再办仪式,双方父母罕见露面

原梦叁生
2026-11-15 18:40:53
中国这招绝了,比拖船更管用!

中国这招绝了,比拖船更管用!

戎评
2026-11-16 15:16:54
俄媒:歼-10C挂载鹰击-80空地导弹,进口装备变成了自己的发明

俄媒:歼-10C挂载鹰击-80空地导弹,进口装备变成了自己的发明

巅峰高地
2026-11-16 17:30:29
宝马735Li降到48.8万?

宝马735Li降到48.8万?

小南看车
2026-11-15 21:02:11
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
开始动真格!追溯30年倒查来了,这4类人要当心!

开始动真格!追溯30年倒查来了,这4类人要当心!

职场资深秘书
2026-11-15 11:28:50
张升民同志简历

张升民同志简历

看看新闻Knews
2026-10-29 18:54:09
男子56万购入300块和田玉,搁置10年后,急用钱才发现其真实价值

男子56万购入300块和田玉,搁置10年后,急用钱才发现其真实价值

兰姐说故事
2025-11-14 17:15:03
1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

磊子讲史
2026-11-04 15:53:33
收评:今天跌到3603了,做好准备,明天,11月17号,股市可能这样走

收评:今天跌到3603了,做好准备,明天,11月17号,股市可能这样走

明心
2026-11-16 15:03:08
GOAT没意义!乔丹罕见谈历史最佳:这个头衔从不会让我狂喜或失落

GOAT没意义!乔丹罕见谈历史最佳:这个头衔从不会让我狂喜或失落

罗说NBA
2026-11-16 07:55:47
本以为是烂剧,结果越看越上头,终于有好的仙侠剧可以熬夜追了!

本以为是烂剧,结果越看越上头,终于有好的仙侠剧可以熬夜追了!

老吴教育课堂
2026-11-16 19:54:47
2026-11-16 22:39:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16696文章数 67238关注度
往期回顾 全部

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

时尚
亲子
旅游
艺术
手机

自骂“烂人”的黄仁勋,冤不冤?

亲子要闻

宝宝气人但是聪明的4个行为

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

无障碍浏览 进入关怀版