网易首页 > 网易号 > 正文 申请入驻

集智谷线下场|自指式内省:大语言模型难以跨越的复杂度阈值|自指与AI读书会第一期

0
分享至


导语

随着大模型能力不断迭代,AI自主改进AI的设想不再只存在于科幻之中。递归自我进化的人工智能会面临哪些底层约束?自指逻辑能否为理解大模型的自我优化提供理论钥匙?这些横跨理论计算机、复杂系统与AI安全的问题,正吸引越来越多跨学科研究者的关注。

本期读书会为自指与AI读书会第1期,活动地点位于北京门头沟・集智谷,欢迎大家到现场深度参与。北京师范大学系统科学学院教授、集智俱乐部创始人张江老师将围绕AI递归自我改进展开分享,借鉴冯・诺依曼复杂度阈值,结合自指与递归定理解析内省的理论作用,分析自省程序的核心性质,梳理当前大模型的能力瓶颈,并探讨未来架构路径与安全问题。

为系统梳理自指与AI领域的最新进展,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师联合清华大学人工智能学院博士生李筱健共同发起,组织对该主题感兴趣的研究者与探索者共同研读前沿文献、交流研究思路。读书会将于2026年8月29日起每周六下午14:00-16:00线上开展,持续约10周,包含主讲分享与讨论交流,并提供会后视频回放,诚邀相关领域研究者及跨学科兴趣者参与。


论文题目:Self-Referential Introspection in Large Language Models: The Critical Threshold for Recursive Self-Improvement 论文链接:https://doi.org/10.3390/e28090951 发表时间:2026 年 8月 24 日 论文来源:MDPI




报告简介

目前,AI的自我进化,用AI建造AI成为了当前研究的热点。对自我进化人工智能的追求引出了一个关键问题:自我改进的AI模型需要满足什么条件才能做到可持续的,而非退化性的改进?参照冯·诺依曼(von Neumann)针对自我复制自动机的复杂度阈值进行类比,本报告提出,大语言模型(LLM)中可持续的递归自我改进需要一个功能类比物:内省(introspection)——即系统模拟自身操作并定位修改的能力。基于克林尼第二递归定理(Kleene's Second Recursion Theorem),我们构造了此类内省式自我改进程序,并证明了它的关键性质:自我修改的完备性、反射式架构的必要性、改进在一般情况下不可判定性,以及在重写等价意义下与施密德胡贝尔 (Schmidhuber) 的Gödel机的一致性,后者可以保证全局最优性。围绕这些功能标准,我们对近年来发表的文献进行了回顾,发现现有大语言模型仅表现出准内省(quasi-introspection)的特征。现有证据并未建立起此处形式化意义上的完整内省,同时指出了若干候选的结构性瓶颈,包括自我访问不完整、前馈处理以及有限的计算深度等。我们勾勒出通向该阈值的架构路径,并讨论了越过该阈值的安全性影响。

分享大纲

  • 自我改进的人工智能

  • 冯诺依曼的复杂度阈值

  • 自指与Kleene第二递归定理

  • 自省程序及其关键性质

  • 大语言模型自省的综述

  • 展望

核心概念

自指、内省(自省)、递归式自我改进、AI的持续演化、复杂度阈值

主讲人介绍

主讲人:张江,北京师范大学系统科学学院教授,集智俱乐部创始人,集智学园(北京)科技有限公司创始人兼董事长,集智研究中心理事长,National Science Review 编委成员。主要研究领域:因果涌现、复杂系统分析与建模、复杂网络与机器学习、社会与经济系统的规模法则(Scaling Laws)等。多篇文章发表在包括:Nature Communications、Nature Machine Intelligence、National Science Review、Nonlinear Systems、Chaos等国际知名刊物上。曾出版专著《规模法则——探索细胞到城市的普适规律》、第二作者合著《数字创世纪——人工生命的新科学》,及译著《自然与人工系统中的适应——理论分析及其在生物、控制与人工智能中的应用》等。

参考文献

  • Zhang, J.; Yuan, B.; Zhang, Q. Self-Referential Introspection in Large Language Models: The Critical Threshold for Recursive Self-Improvement. Entropy 2026, 28, 951. https://doi.org/10.3390/e28090951

  • Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, et al. AI models collapse when trained on recursively generated data. nature, 2024, 631(8022): 755-759

  • John von Neumann. Theory of Self-Reproducing Automata. UMl Reprint University Illinois 1966 Ed, 2002

  • 东方和尚, Jake. 自复制自动机理论前五章中文翻译, 2011

  • 侯世达 Douglas Richard Hofstadter. 哥德尔、埃舍尔、巴赫. 商务印书馆, 1997

  • Nigel Cutland. Computability: An Introduction to Recursive Function Theory. Cambridge University Press, 1980

  • Juergen Schmidhuber. Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements. arXiv:cs/0309048, 2006

活动预告

⏰ 时间:2026年8月29日(周六)14:00-16:00

线下:北京门头沟区 · 集智谷

线上:腾讯会议

直播:集智俱乐部微信视频号 + B站账号同步放送

感兴趣的朋友请扫码报名加入读书会,报名后可进入学员群参与交流讨论。期待与你共探自指与AI的深层连接。

直播信息

报名读书会:「自指与AI」

北京师范大学系统科学学院教授、集智俱乐部创始人张江老师联合清华大学人工智能学院博士生李筱健共同发起,组织对该主题感兴趣的研究者与探索者共同研读前沿文献、交流研究思路。

读书会自2026年8月29日起,每周六下午14:00-16:00线上开展,预计持续8-10周,包含主讲分享与讨论交流,并提供会后视频回放,诚邀相关领域研究者及跨学科兴趣者参与。

扫描海报中二维码报名参加读书会


报名方式

第一步:微信扫码填写报名信息。

第二步:填写信息后,付费报名。如需用支付宝支付,请在PC端进入读书会页面报名支付:

第三步:添加运营助理微信,拉入对应主题的读书会社区(微信群)。

PS:

我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量,请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。

若讨论内容明显偏离主题,经主持人提醒后仍未调整,为维护整体学习环境,我们将不得不将该成员请出讨论群,并根据其实际参与进度,对未参与部分按比例办理退费。

感谢您的理解与配合,让我们共同营造一个专注、深入、有收获的共学空间。

加入社区后可获得的资源

完整权限包括:线上问答、录播回看、资料共享、社群交流、信息同步、共创任务获取积分等。


特色退费与激励机制

我们提供以下两种途径,让您的投入获得实际回馈:

  1. 任务达标退费路径

    认领并合格完成任意两期字幕任务,即可退还全额报名费,并额外获得集智专属周边奖励。

  2. 运营成长激励路径

    合格完成一个字幕任务后,可申请成为运营助理。在读书会项目顺利结项后,将退还学费。表现优异者,还有机会获得额外的奖学金。

1.「自指与AI」读书会推荐阅读材料

扫描下方二维码可跳转至集智斑图网站阅读文章:「自指与AI:从大模型自我改进到意识研究」读书会推荐阅读材料。

2.往期公众号相关内容推荐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
同一家公司,领导按300%交社保、员工按60%,这叫“多缴多得”?

同一家公司,领导按300%交社保、员工按60%,这叫“多缴多得”?

偷喝一口奶
2026-09-04 11:53:36
WTT澳门冠军赛:国乒男单晋级8强!周启豪3:1孤军奋战,冲击冠军

WTT澳门冠军赛:国乒男单晋级8强!周启豪3:1孤军奋战,冲击冠军

国乒二三事
2026-09-11 14:26:03
人生10大忌,切忌切忌

人生10大忌,切忌切忌

大禹小城
2026-09-09 20:30:53
碳酸锂崩了!跌破13万,市场在恐慌什么?

碳酸锂崩了!跌破13万,市场在恐慌什么?

格隆汇
2026-09-11 12:08:04
上任仅3个月!65岁欧冠队主帅愤怒辞职 逼平罗马后遭球迷瓶子砸头

上任仅3个月!65岁欧冠队主帅愤怒辞职 逼平罗马后遭球迷瓶子砸头

我爱英超
2026-09-11 06:29:42
不要被加息叙事吓倒!亚太股市午盘拉升,油价跳水了美股盘前走强

不要被加息叙事吓倒!亚太股市午盘拉升,油价跳水了美股盘前走强

看财经show
2026-09-11 17:54:26
黄晓明说“我帮了太多白眼狼”,“黄晓明在内涵谁”登上热搜

黄晓明说“我帮了太多白眼狼”,“黄晓明在内涵谁”登上热搜

韩小娱
2026-09-11 06:56:59
每体:皇马冬窗或考虑引进苏比门迪,他在阿森纳已沦为替补

每体:皇马冬窗或考虑引进苏比门迪,他在阿森纳已沦为替补

懂球帝
2026-09-11 17:56:08
北京地铁14号线客流跌破75万,串联望京和大望路的这条线,人到底都去哪了?

北京地铁14号线客流跌破75万,串联望京和大望路的这条线,人到底都去哪了?

石辰搞笑日常
2026-09-11 09:08:18
湖南女子与丈夫丁克40年,备受宠爱,退休后才知丈夫已三世同堂

湖南女子与丈夫丁克40年,备受宠爱,退休后才知丈夫已三世同堂

晓艾故事汇
2024-12-12 20:17:15
无惧孙颖莎王曼昱!26岁日本名将:我的目标就是拿到奥运女单金牌

无惧孙颖莎王曼昱!26岁日本名将:我的目标就是拿到奥运女单金牌

念洲
2026-09-11 07:01:26
94岁原中央保健局局长王敏清:50年没感冒,无三高,靠的就是这几招

94岁原中央保健局局长王敏清:50年没感冒,无三高,靠的就是这几招

新浪财经
2026-06-24 02:28:33
2预警齐发,中央气象台:今晚至明晚,黑龙江、四川、云南、广东、海南岛等地有短时强降水天气

2预警齐发,中央气象台:今晚至明晚,黑龙江、四川、云南、广东、海南岛等地有短时强降水天气

鲁中晨报
2026-09-11 18:27:03
“他能上小学都算祖坟冒青烟!”一家五口颠覆认知:黄毛的爷爷,满背的奶奶

“他能上小学都算祖坟冒青烟!”一家五口颠覆认知:黄毛的爷爷,满背的奶奶

妍妍教育日记
2026-09-09 18:05:48
瞒不住了!美军伤亡曝光,是阿富汗的五倍,难怪伊朗一直底气十足

瞒不住了!美军伤亡曝光,是阿富汗的五倍,难怪伊朗一直底气十足

顾蔡卫
2026-09-11 07:14:48
统一台湾后需多少驻军?香港人口753万,驻军约6000人,澳门人口68万,驻军不足千人,台湾面积是香港的32倍,保守估计,台湾驻军需6-8万人

统一台湾后需多少驻军?香港人口753万,驻军约6000人,澳门人口68万,驻军不足千人,台湾面积是香港的32倍,保守估计,台湾驻军需6-8万人

扶苏聊历史
2026-09-10 15:51:48
4000万工人正在"消失":中国工厂亲手毁掉了自己的命根子

4000万工人正在"消失":中国工厂亲手毁掉了自己的命根子

说故事的阿袭
2026-09-11 00:04:44
能不能长寿,先查体重!医生坦言:55岁后,体重尽量别超这个范围

能不能长寿,先查体重!医生坦言:55岁后,体重尽量别超这个范围

全球军事记
2026-09-11 20:35:21
就在昨天,46国同步签字,重要联盟在中国成立,联合国也派人见证

就在昨天,46国同步签字,重要联盟在中国成立,联合国也派人见证

凉羽亭
2026-09-11 11:40:29
两性心理学:已婚女人要是外面有人了,而且还跟别人睡过了,那才会有这些苗头出现

两性心理学:已婚女人要是外面有人了,而且还跟别人睡过了,那才会有这些苗头出现

心理观察局
2026-09-06 06:09:43
2026-09-11 21:15:00
集智俱乐部 incentive-icons
集智俱乐部
科普人工智能相关知识技能
6040文章数 4684关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

打假网红"铁头"获刑8年:以曝黑料威胁向主播索要黄金

头条要闻

打假网红"铁头"获刑8年:以曝黑料威胁向主播索要黄金

体育要闻

37岁还能场场进球,还能翻跟头!

娱乐要闻

黄晓明直言帮太多白眼狼,杨颖遭殃

财经要闻

女装“玖姿”母公司跨境贸易迷局:安正时尚说谎了吗?

汽车要闻

买菜车也有小乐趣 风云T7不止是台合格家用SUV

态度原创

艺术
时尚
手机
本地
房产

艺术要闻

美国秘藏的一部《金刚经》!这才是楷书“金字塔尖”,欧颜柳赵也比不过

女人不管三十还是四十,衣服都可以多穿白色,清爽百搭又减龄

手机要闻

苹果公布iPhone 18 Pro系列手机维修预估费用:电池服务1048元

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

房产要闻

时隔7年,绿地海南再拿地!

无障碍浏览 进入关怀版