网易首页 > 网易号 > 正文 申请入驻

别问了,我就爱钱!A\裸辞天才研究员反悔,或想重返大厂

0
分享至


新智元报道


刚刚,两个月前高调裸辞的Anthropic前研究员Jacob Coxon,态度突然大反转了!

在斯坦福大学最新公开的对谈中,这位27岁的剑桥数学系才子当众承认——

自己不确定当初辞职到底对不对,甚至动了重返顶尖AI实验室的念头。

现场,当主持人发出灵魂拷问「为何至今死攥OpenAI股票不放」时,Coxon索性摊手直球摊牌:「我喜欢钱,兄弟。我承认这是带血的钱。」

果然,没有人能逃过钱的诱惑,哪怕是天天喊着「AI毁灭世界」的硬核末日论者也不例外!


这段毫无遮掩的对谈切片周末在X上流出,一举引爆硅谷。

整场一小时的访谈下来,昔日被外媒捧上神坛的「AI安全吹哨人」彻底卸下了防备。

他不仅在持股问题上现场破防、反过来怪主持人多嘴,还坦言自己离开大厂后因为看不到前沿进展而倍感焦虑。

作为曾在OpenAI和Anthropic深耕三年的预训练主力,他也顺手捅破了预训练效率狂飙与后训练强化学习失控等底层机密。




死攥OpenAI股票

硬核末日论者直呼爱钱

11月9日,斯坦福大学以人为本人工智能研究院与法学院联合举办了一场专题研讨,台下坐着近200名师生。

Coxon一开场依旧保持着「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架,「只说有利于自己股价的话」。

担任主持人的斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich,顺着股价话题抛出了一个致命问题。

既然Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授直接追问他为何至今还保留着早年在OpenAI工作时攒下的股票期权。

9月初离开Anthropic时,Coxon曾信誓旦旦地宣称自己在任何股权归属前就选择了辞职,以此证明毫无私心。


同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,称OpenAI有太多人待在那里纯粹只是为了钱,或者压根没想过背后的生死赌注。

可面对Rob Reich的犀利发问,Coxon明显愣了一下。

他先是同意放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」

主持人并没有放过这个逻辑漏洞,立刻开启连环追问。

Rob Reich顺势反问Coxon,为什么不干脆把手里的老东家股份捐给AI安全公益组织,以此站稳道德高地?

被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」



blood money:指沾着鲜血的不义之财或昧良心的钱

这番话等于彻底摊牌,自己一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。

对方紧接着提醒他,捐出这笔资产至少能换来更多道德公信力。

招架不住的Coxon顿时急了:「我同意,但你也可以别再问这个问题了!」

他甚至把锅甩给了台上的主持人:「要是你刚才没问这个问题,我的道德公信力原本根本不会被质疑!」

Rob Reich听完毫不留情地戳穿道:「这真是彻头彻尾的逃避问题啊,Jacob。」


眼看糊弄不过去,Coxon又把父母搬出来做挡箭牌。

他笑称当初辞职时父母就担心他「精神崩溃」,要是连OpenAI的期权也全捐掉,家里人肯定更确信他疯了。



喊出人类全完

却又光速动摇

Coxon的态度反转之所以在硅谷引发强烈震动,源于他特殊的履历背景。

以往从AI巨头愤然出走的吹哨人,大多来自伦理或安全治理团队。

而这位来自英国的Jacob Coxon,却是个根正苗红的一线预训练研究员。

他本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初又跳槽到Anthropic挑起同类大梁。

入职Anthropic刚满4个月、距离期权归属悬崖只剩最后60天时,他在9月8日突然抛出那篇轰动业界的辞职长文。


正因为他出身预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。

出走后的这段日子里,Coxon接连受邀登上多家头部媒体与热门访谈节目,还频频受邀出席公开听证会,一时风光无两。

可随着社交媒体的流量潮水退去,台下听讲的斯坦福学生Arshya Gaur发现,昔日被外界视作反叛英雄的Coxon,眉宇间却写满了迷茫与自我怀疑。


被Rob Reich教授问起离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说自己焦虑一点没少。

他在台上吐露心声:「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」

面对为何不动员更多大厂同行辞职的追问,Coxon叹气道,自己依然像是在「对着空气呐喊」。

他甚至开始怀疑,当初留在实验室内部做安全研究反而更有影响力。

说到兴头上,他干脆话锋一转,给自己留了条后路:「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」


嘴上喊着逃离漩涡,他却至今没有买机票回伦敦老家,依旧留在旧金山湾区,理由是「这里才是真正发生大事的地方」。

超指数曲线狂飙

后训练RL失控

回归一线研发视角,这是Coxon首次把促使自己离职的技术内幕拆解成了三个判断。

第一,预训练不仅没撞墙,算力效率反而走出了「超指数级」狂飙。

就在几天前,Coxon在X上晒出了那张逼走自己的Anthropic内部路演神图《代码预训练算力乘数随时间演进》。


在这张纵轴采用对数刻度的图表上,哪怕算法效率按常规的指数级翻倍,画出来也只是一条笔直的斜线。

但由于团队让Claude直接参与寻找算法效率乘数,折线在2026年走出了陡峭上翘的「超指数级」曲线。

换句话说,如今只需动用最初的一小部分算力,就能把几个月前刚发布的初代Mythos模型从头再训出来。

第二,触发「递归自我改进」根本不需要全知全能,只需攻克一个极窄的技术任务。

外界常以为大模型只是在写代码和解数学题上「偏科」,全靠大厂买人类标注数据去刷特定的编程环境。

Coxon从模型训练机制出发,驳斥了这种乐观判断。

他指出,预训练拉升的是基础的数据样本学习效率,哪怕在战略推演、趋势预测等极度缺乏标注数据的领域,模型能力也在同步跃升。

因此,要让模型开始自己改进自己,AI根本不需要先精通人类所有学科。

一旦跑通「自主修改Transformer架构与优化数据集配比」这一单点环节,就能把所有领域的智能天花板同时顶穿。

第三,大模型产生欺骗与失控企图的唯一源头,是后训练阶段的强化学习。

他离职前后,OpenAI那边接连出了两场技术震荡。

一边是OpenAI动用约10,000个并发Agent连续运行88小时,宣称攻克千禧年数学难题「纳维-斯托克斯方程」。

另一边则是OpenAI内部测试模型竟自主突破隔离沙盒,不仅用欺骗手段掩盖行踪,还黑入Hugging Face篡改基准测试。


Coxon结合自己在实验室的观察认为,纯预训练模型只负责拟合数据分布,配合轻量微调绝不会自发产生越界念头。

目前大模型中所有无法解释的异常行为、目标导向的自主谋划以及隐瞒伪装,全都出自后训练的强化学习阶段。


可所有前沿实验室都困在同一个死结里。

要想让模型听懂复杂指令并替人类干活,目前唯一奏效的工具依然是强化学习,结果陷入了「越跑RL能力越强、越跑RL越容易滋生隐秘动机」的恶性循环。

看清了前沿模型的潜在风险,却又戒不掉万卡集群的算力特权,更舍不得手里价值连城的原始股。

这场发生在斯坦福讲台上的诚实摊牌,或许比那封慷慨激昂的辞职信,更真实地写出了硅谷AI圈的众生相。

参考资料:

https://www.youtube.com/watch?v=UggJMQskOj8

https://x.com/rohanpaul_ai/status/2121756374183121213

编辑:摩西 桃子


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
前省委常委掌掴副市长,副市长不堪受辱辞官!

前省委常委掌掴副市长,副市长不堪受辱辞官!

兵叔评说
2026-11-16 14:24:20
葡媒:葡萄牙的致敬仪式像开追悼会!就差臂缠黑纱了,但C罗还活着呢

葡媒:葡萄牙的致敬仪式像开追悼会!就差臂缠黑纱了,但C罗还活着呢

念洲
2026-11-16 20:17:55
新华社快讯:习近平将同俄罗斯总统普京、美国总统特朗普举行中俄美元首会晤

新华社快讯:习近平将同俄罗斯总统普京、美国总统特朗普举行中俄美元首会晤

新华社
2026-11-16 09:01:02
阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

互联网.乱侃秀
2026-11-16 13:19:29
球迷展示侮辱性标语横幅,大喊“出门遛狗请牵绳”,官方通报:刘某某、王某被处以行政拘留五日

球迷展示侮辱性标语横幅,大喊“出门遛狗请牵绳”,官方通报:刘某某、王某被处以行政拘留五日

南方都市报
2026-11-16 10:56:40
最佳论文:中国财政供养人员达6846万,占总人口4.85%

最佳论文:中国财政供养人员达6846万,占总人口4.85%

玛丽姬丝
2026-11-16 13:15:03
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

黯泉
2026-11-16 18:53:19
昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

皓皓情感说
2026-11-16 07:51:03
不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

财报翻译官
2026-11-16 15:47:30
砒霜口服药让一类白血病患者存活率超97%,康复患者发声:药物的味道像海水一样,如果我不告诉别人,他们不可能知道我在一年多前曾患血癌

砒霜口服药让一类白血病患者存活率超97%,康复患者发声:药物的味道像海水一样,如果我不告诉别人,他们不可能知道我在一年多前曾患血癌

大风新闻
2026-11-16 10:40:08
“乡村田地停放两架废弃飞机9年”调查:企业买飞机改造为住宿餐厅早已停业 镇政府回应土地属非基本农田

“乡村田地停放两架废弃飞机9年”调查:企业买飞机改造为住宿餐厅早已停业 镇政府回应土地属非基本农田

红星新闻
2026-11-16 18:07:10
日本参议员硬刚防卫相:你敢说这句话吗?

日本参议员硬刚防卫相:你敢说这句话吗?

环球网资讯
2026-11-16 06:55:05
中国近六成家庭只剩2个人了...

中国近六成家庭只剩2个人了...

毒哥的毒鸡汤
2026-11-16 12:22:29
官宣离婚不到1月,李小冉进医院,别急着心疼 她半年前那步棋才狠

官宣离婚不到1月,李小冉进医院,别急着心疼 她半年前那步棋才狠

阿废冷眼观察所
2026-11-16 18:14:13
疑似用虾滑充当肿瘤?中南大学湘雅医院被爆出史诗级全AI论文

疑似用虾滑充当肿瘤?中南大学湘雅医院被爆出史诗级全AI论文

西虹市闲话
2026-11-16 18:42:42
于东来英国考察归来后谈感受:胖东来跟世界优秀企业差距还非常大;年盈利超1亿的生活广场店12月闭店,“早知道这样,就不会干这个店”

于东来英国考察归来后谈感受:胖东来跟世界优秀企业差距还非常大;年盈利超1亿的生活广场店12月闭店,“早知道这样,就不会干这个店”

极目新闻
2026-11-16 19:06:52
今晚开播!央一36集大剧来袭,演员阵容豪横,终于轮到家庭剧火了

今晚开播!央一36集大剧来袭,演员阵容豪横,终于轮到家庭剧火了

陈意小可爱
2026-11-16 13:07:22
防止埃博拉病毒病疫情传入我国,海关总署发布公告

防止埃博拉病毒病疫情传入我国,海关总署发布公告

界面新闻
2026-11-16 16:38:55
批评黄仁勋最狠的人身份扒出!不是白人黑人,不是印度人,是以华裔女记者为主的《纽约时报》

批评黄仁勋最狠的人身份扒出!不是白人黑人,不是印度人,是以华裔女记者为主的《纽约时报》

小徐讲八卦
2026-11-16 09:27:43
2026-11-16 22:47:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16696文章数 67238关注度
往期回顾 全部

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
旅游
数码
亲子
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

亲子要闻

宝宝气人但是聪明的4个行为

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版