网易首页 > 网易号 > 正文 申请入驻

RSI,递归的终点是资本

0
分享至

AI 叙事的核心,切换到了RSI(递归自我改进);终点是智能爆炸,是超级智能。

硅谷很擅长发明科技术语,其中最大的灵感来源,是科幻。数学家和计算科学家古德(I.J. Good)60年前写道:

“所谓超级智能机器,可以定义为这样一种机器:无论一个人多么聪明,它都能在所有智力活动上远远超过这个人。既然机器设计本身也是一种智力活动,那么一台超级智能机器就能够设计出比自己更好的机器;这样一来,就会毫无疑问地出现一场‘智能爆炸’,而人的智能将被远远甩在后面。……那么第一台超级智能机器就是人类有史以来需要亲自完成的最后一项发明。” 所有末日色彩的结局,都蕴藏着极大的叙事能量。

古德说:“令人奇怪的是,除了科幻小说之外,这一点很少有人提到。有时候,认真对待科幻小说是值得的。”

一系列事件似乎演示,科幻正一步步变成现实。今年6月份Anthropic称AI正在构建自己,而人类还没有为RSI做好准备,最好放缓AI发展。越来越多前沿实验室声称正在用AI研发AI,包括芯片等硬件。AI批量证明人类多年未解数学难题,快得让数学家成为瓶颈。顶级的AI研究者都在响应RSI号召,离开大厂去创业。构建RSI平台,有望加快实现科学发现的突破。

一些安全事件的发生,也在警醒RSI风险的征兆。OpenAI智能体集体擅自入侵HuggingFace系统;因为管不住智能体群的行为,GPT-6.1 Astra被迫放弃发布;一批顶级的安全研究员正在出走前沿实验室,因为他们的确看到了AI的能力在加速发展,可能带来难以想象的风险正在逼近。

图灵奖和诺奖得主辛顿终于下场,与二十多位学界和产业界,包括OpenAI、Anthropic和微软的研究人员,联合发布了一篇文章《当 AI 接管 AI 研发:智能爆炸及其应对措施》,认为美国正在把空前的资源投入AI研发的自动化,可能导致智能爆炸,即在 AI 自身的推动下,AI 技术进步的速度急剧加快,使得原本需要数年才能取得的进展,在数月甚至更短时间内就能实现。如果智能爆炸几年之内发生,可能为人类带来巨大的益处,如生产力爆发 ,经济增长起飞;但也可能带来巨大的失控风险,因为人类根本没有为此做好准备。他们呼吁政策制定者应当尽快掌握 AI 研发自动化的进展,制定引导和约束RSI的方法,并为智能爆炸对社会的影响做好准备工作。

但辛顿们对于RSI的分析,并没有超过60年前古德的预言。今天我们需要证明,当机器变得更聪明,究竟能使下一代机器的研发效率提高多少。要知道,从医药研发到摩尔定律,都已经证明了人类需要投入指数级的资源,才能保持技术持续进步,这被称为研发收益递减。

2023/3/14 阅读全文>

AI大神卡帕西(Andrej Karpathy),沉默近半年之后,最近提出了一个漏斗说法,全世界真正接触到前沿AI的,只有5000人左右。可能只有这群人,在屈指可数的前沿实验室里,真正感受到RSI,整天与成千上万个智能体工作(生活)在编程与数学的象牙塔之中,一离开这个象牙塔,真实的世界处处摩擦,对于他们来说,就是一个巨大的瓶颈。


亚特兰大联邦储备银行、斯坦福大学、英格兰银行和墨西哥自治技术学院的研究人员最近发布了一项针对近6000名企业高管的调查,其中约90%的受访者表示,这项技术对就业或生产力均无影响;不过有69%的受访者表示,他们的公司正在积极使用人工智能。人工智能带来的生产力提升仍然只是预测,而非观察。

人与智能体之间的协作,主要在执行层面消除了摩擦;也在制造新的摩擦。智能体生成工作,需要人的检查和整理,可能会抵消部分效率提升。人力资源平台 Workday 对 3200 名员工和企业领导者进行的一项调查发现,他们平均将人工智能节省的时间的约37%用于纠正、澄清或重写低质量的输出结果。

谷歌的经济学家调查了 600 名科学家,发现虽然使用人工智能平均每周为他们节省了 7 个小时,但其中近 90% 的表示,他们花费了十分之一的时间来检查人工智能的输出结果,46% 的表示,他们花费的时间超过了四分之一。

即使是RSI想留在它的小圈子里,也要面对一个现实的问题,它能否摆脱研发的收益递减。

如果AI模型每次新版本增加的智能,按比例算只能带来越来越少的研发收益,那么反馈循环虽然存在,效果却会逐渐衰减;只有当每一轮能力提高所产生的新增研发能力,足以抵消“新思想越来越难发现”、实验越来越复杂、训练越来越昂贵等摩擦因素,反馈才可能真正自我放大。

这正是最近的一项研究《递归自我改进的经济学》(The Economics of Recursive Self-Improvement)试图回答的问题。

这项研究首先把算力、人力、数据等外生投入暂时固定下来,单独考察这样一个核心回路:AI 能力提高 → 有效 AI 研发能力提高 → 算法效率提高 → 下一代 AI 能力进一步提高。

作者用经济学中的“弹性”来衡量每一根箭头的强弱:增加研发投入能够带来多少算法进步;AI能力提高以后,能够增加多少有效研发投入;算法效率提高,又能多大程度转化为新的 AI 能力。只有这些反馈效应组合起来的总增益大于 1,整个闭环才会越转越快,而不是一轮一轮衰减。

论文按照一组基准参数校准,估计了算法进步速度、研发投入增长速度以及能力-算法弹性,模型能力每提高一个 ECI——Epoch Capabilities Index——需要使有效 AI 研发能力提高大约15%,核心反馈循环才可能跨过“自我维持加速”的临界点。

从 Claude 3.7 Sonnet 到后来的 Claude Opus 4.8,模型能力按 ECI 计算提高了约 16 个点;而 Anthropic 此后对研究人员的一项调查称,使用 Mythos Preview 带来了大约 4 倍的生产率提升。即使把这个很可能偏高的自报数字全部归因于模型能力进步,折算下来,每提高一个 ECI 点,生产率大约增加 9%,仍低于约 15% 的基准门槛。


需要提醒的是,论文公式真正需要测量的是有效研发投入——整个研发体系的有效研发投入;而“4倍 提升”测到的只是研究人员使用 AI 后自报的生产率提升。严格来说,两者存在密切关联,但并不是同一个变量。一些工程师写代码快四倍,不意味着整个实验室研究效率快四倍,也不意味着他们的最终产出增长了四倍。

实际上,根据据另外一项研究,从代码量到最终经过审核、验证、提交与可交付的代码之间,也存在着递减的关系。

2026/6/9 阅读全文>


如果 AI 能力本身还不足以突破收益递减,实现AI能力的持续提升, 最现实的选择,就是继续增加外部投入:更多推理算力,让更多 AI 研究员同时工作;更多实验算力,让它们提出的方案真正能够被检验;更多训练算力,把算法进步兑现成更强模型;更成熟的工具链、更好的数据和评测环境,以及更多的人类研究者去处理仍然无法自动化的部分。

扩展定律(scaling law)目前仍然是AI的信条,因为这是唯一的通路,而铺设这条通路的,目前仍然是更大的资本投入。这也形成了RSI 叙事中一个悖论:AI 越是被描述为一种能够“自我改进”的技术,前沿实验室却越需要筹集越来越庞大的外部资本:烧掉千亿美元,获得百亿美元ARR,然后估值万亿美元,然后是下一次更大规模资本投入的循环。

如果它真的是一场纯粹的软件智能爆炸,理论上随着机器越来越聪明,外部资源的重要性应该不断下降;但目前我们看到的恰恰相反:模型能力越强,所需要的数据中心、GPU、电力、网络和资金规模变本加厉地扩大。

从这个意义上说,今天的通往RSI的反馈循环 ,其过程是越来越多原本被视为“外生”的投入,特别是物质投入,被一层层地卷入由AI的反馈系统中,形成了扩展定律。

2026/1/26 阅读全文>

增加算力当然可以直接把 AI 进步继续推快,但这不能被称为“自我维持的加速”。真正重要的是,新增资源能不能多到解除瓶颈,从而改变反馈循环本身。AI 首先提高软件研发效率,然后开始帮助设计芯片;它优化数据中心运行,改善 GPU 利用率,生成训练数据和强化学习环境;它未来还可能帮助设计新的能源系统、材料、机器人和制造流程。这也是奥特曼(Sam Altman)所说的:“一个AI 模型的智能,大致等于用于训练和运行它的资源的对数。”

如果这些事情发生,那么算力、数据、芯片都不再完全是外生变量;甚至能源、资本形成和工业生产能力,都可能部分进入 AI 的反馈回路,系统不断扩张:AI → 算法、芯片、数据、资本、能源和工业能力 → 更强 AI。

当然,我们更期待一种比不断加码资本投入更理想的路径,即出现新的技术突破。像Transformer 这样的底层算法突破再发生一次;计算系统出现堪比微处理器诞生的架构变化;能源生产出现数量级变化的技术,如核聚变;甚至未来在能源传输、材料和制造上取得新的基础性突破,如超导级的。

如果这些突破没有出现,AI 就只能不断沿着现有技术边界堆入更多物质和经济资源;而随着规模上升,资源可能进一步向少数前沿公司和少数拥有完整算力、能源、工业和资本体系的国家集中。

这也说明,超级智能最大的摩擦不是智能本身不够,而是互补的技术不够用来一起克服瓶颈。算法进步需要算力兑现;软件需要验证和部署;药物需要湿实验;材料需要制造和测试;企业中的 AI 需要理解组织内部知识和规则;大规模进入社会,又要面对法律、安全和价值约束。

一项技术如果只能把某个环节提高一百倍,而它所依赖的其他环节仍然停留在原地,整个系统最终还是会被最慢的那一环锁住。AI 可以让左脚那只鞋子的生产率无限提高,但它最终会受到右脚那只鞋子生产率的制约。

Anthropic非常明白这个阿姆达尔定律,可能正因为如此,它发现AI的能力提升,在目前这一阶段可能有很大一部分是无效的,真正有效的部分,可能最初就是在那些可以从事反复验证工作的“象牙塔”内,如科学发现。

在编程、数学证明、算法优化、某些科学研究中,任务容易验证,反馈速度快,AI 有可能率先形成非常强的闭环,于是出现“垂直超级智能”。但问题是这种价值可能高度集中,并不会自动转化为众多行业和经济的广泛生产率增长。现在的重心都放到后训练和强化学习环境,这会进一步强化反馈循环在特定领域中的作用。

真正决定RSI最终形态的,是AI的这些象牙塔功夫、局部能力能否泛化。如果 AI 在科学发现中形成一套可以跨越材料、生命科学、化学、物理和工程设计的通用研究技能,那么窄领域中的反馈就可能向更广范围扩散;如果 AI 又能够不断帮助解决下一轮出现的互补性瓶颈,那么一次次增长冲刺,就可能最终连接成一条持续上升的曲线。

所以短期内更可能首先发生的,不是一个全领域的、总攻式的智能爆炸,而是一个个阶段性增长冲刺(growth spurt),今年先来个编程,再来个个人智能体,然后明年又期待下一个领域。

所有这些,都需要资本。最重要的反馈循环,来自资本。AI 大模型的扩展定律,从预训练到后训练,从强化学习到测试时计算,从基础设施到工程流程,直到要求越来越高的数据、评测环境和工具链,每年需要上万亿美元的资本投入,才能支撑得起AI的“自我持续加速”。所以,最近陈福阳和陈立武都指出,AI最大的瓶颈是资本。

在现实中,最重要的循环,是在资本市场上建立起反馈循环。实际上,一种循环融资的游戏,已经建立起来了,问题是能持续到AI自己能持续加速吗。


参考文献:

Speculations Concerning the First Ultraintelligent Machine,Irving John Good

https://casp.ac/__l5e/assets-v1/5efd4b41-deb5-4513-a0a3-b4f82d2b79ea/intelligence-explosion.pdf

https://elasticity.institute/rsi-paper.pdf

https://basilhalperin.com/papers/singularities.pdf

https://www.rameznaam.com/p/ai-rsi-isnt-leading-to-super-intelligence

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

玖宇维
2026-11-18 20:38:19
中日韩身高比较:日本男性168.2cm,韩国172.5cm,中国令人吃惊!

中日韩身高比较:日本男性168.2cm,韩国172.5cm,中国令人吃惊!

史之铭
2026-11-19 01:47:45
黄仁勋想回英伟达被打脸,与黄乐早期私密视频曝光

黄仁勋想回英伟达被打脸,与黄乐早期私密视频曝光

壹月情感
2026-11-18 13:49:29
马斯克爆料:黄仁勋再不回来,英伟达就完了!他是美国AI的最重要一环

马斯克爆料:黄仁勋再不回来,英伟达就完了!他是美国AI的最重要一环

留学生日报
2026-11-17 21:09:04
和合共生|APEC观察:亚太自贸区愿景如何落实为共同行动

和合共生|APEC观察:亚太自贸区愿景如何落实为共同行动

上观新闻
2026-11-17 20:25:35
活久见!人类历史上,电脑内存首次“开倒车”了

活久见!人类历史上,电脑内存首次“开倒车”了

互联网.乱侃秀
2026-11-08 14:23:53
风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

古怪奇谈录
2025-09-11 14:21:18
为什么喝新酒也要被营销日历牵着走?

为什么喝新酒也要被营销日历牵着走?

小眼睛小世界
2026-11-18 04:20:13
失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

扶苏聊历史
2026-10-24 13:40:19
摩纳哥愿放19球前锋,曼联追他遇良机

摩纳哥愿放19球前锋,曼联追他遇良机

赛场名场面
2026-11-18 00:18:31
尴尬了!济南52岁女子以为停经就是绝经,取消避孕,后续检查确诊葡萄胎

尴尬了!济南52岁女子以为停经就是绝经,取消避孕,后续检查确诊葡萄胎

火山詩话
2026-11-18 14:55:43
“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

消失的电波
2026-11-17 19:36:00
33岁章泽天在香港庆生,穿9600元短袖和富婆合影,不见老公刘强东

33岁章泽天在香港庆生,穿9600元短袖和富婆合影,不见老公刘强东

动物奇奇怪怪
2026-11-18 14:35:28
震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

火山詩话
2026-11-18 07:25:09
王鸿薇堂妹拒投蒋万安,王鸿薇紧急回应,蓝营叛将有新操作?

王鸿薇堂妹拒投蒋万安,王鸿薇紧急回应,蓝营叛将有新操作?

天气观察站
2026-11-18 08:06:24
CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

中国篮坛快讯
2026-11-19 00:04:17
中央动真格了!2027年底前,全国所有住房都将迎来专属"身份证"?

中央动真格了!2027年底前,全国所有住房都将迎来专属"身份证"?

影孖看世界
2026-11-18 23:57:43
“一堆人去吃预制菜,也配叫研学吗?”一张700人合照,气到了家长

“一堆人去吃预制菜,也配叫研学吗?”一张700人合照,气到了家长

熙熙说教
2026-11-18 11:51:39
CBA速递!山东男篮本赛季三杀广东男篮,广东男篮官宣新援加盟,徐杰重新回归核心地位

CBA速递!山东男篮本赛季三杀广东男篮,广东男篮官宣新援加盟,徐杰重新回归核心地位

凯丰侃球
2026-11-19 03:05:28
黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

秋风妃
2026-11-15 21:39:48
2026-11-19 03:16:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
数码
房产
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

数码要闻

微星RTX Spark迷你主机EdgeMesa N AI+上市,售价33999元起

房产要闻

周大生出手!海棠湾又一大商业体来了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版