网易首页 > 网易号 > 正文 申请入驻

学术圈的同行评议制度,应该确实死了

0
分享至

数学界大佬陶哲轩又整活了:


陶哲轩:

假设我们给一个先进的人工智能下达指令:“找到一种能够通过三期临床试验的癌症治愈方案。”

在进行了大量计算之后,它提出了一种由此前从未发现过的化学物质组成的混合药剂。根据它的数学模型预测,将这些物质混合后注射进患者体内,就能杀死所有癌细胞。

尽管没有人真正知道这种混合药剂是如何被发现的,但这一模型的预测在Lean中得到了验证,而且这种混合药剂确实通过了三期临床试验。

那么,有没有可能,人工智能给出的解决方案实际上并没有与人类的意图对齐,而是利用了临床试验流程中的某种漏洞?

在把这种混合药剂注入自己的血液之前,你是否希望知道,至少有一位人类癌症专家真正理解这种疗法背后的作用机制?

或者,你是否希望有一位人类数学家,真正理解用于发现这种混合药剂的数学模型?

人话就是:即使人工智能给出了正确的答案,并且通过了外部检验,我们是否还需要理解它为什么正确?

陶哲轩的意思是:即使AI完美实现了给定的目标,它也可能没有解决我们真正想要解决的问题,比如治愈癌症。

说陶哲轩对,他这一套推理是完全没问题的。但是,现实没有跟着推理走,是因为医学这门学科,弄不清原理但是照样用的稀松平常,人类用柳树皮治病(阿司匹林)用了几千年,直到1971年才搞清楚机制,1928年发现青霉素,但是到1950年后才弄清机制,如果真到了绝症晚期,没人管机制,先打一针活下来再说。

其实不光是医学,包括生物学,化学,物理学等等,基本上都是实用主义优先,搞不懂原理但是用才是普遍性的,只有数学特殊一点。

数学其实也不是没有搞过,四色定律就是计算机完成的。

先声明一下,陶哲轩已经是数学界非常开明的人了,不像很多老古董。

同行评议

联系到陶哲轩前段时间的那个联名信,陶哲轩的目的很明确,他希望维护现有的同行评议制度,尤其是维护“人类理解的意义”,既:计算机可以给出证明,但是只有人类才能赋予其意义。

同行评议制度诞生的背景和现代大不一样,最早的科学期刊《哲学汇刊》是皇家学会首任秘书亨利·奥尔登堡创办,实际上这是私人事业,自负盈亏,主要靠的是他个人的关系网络,所谓的评审其实就是他本人筛选和编辑他的通信,一个人说了算。

后来皇家学会接管了期刊,搞了论文委员会,用集体投票来决定是否接受或者拒绝。

再到19世纪,科学发展越来越专业化,非专家的委员会来评审论文已经不可信,到1831年,皇家学会引入了审稿人制度,被选中的专家需要提交书面评审报告,作为委员会决策的依据

到了20世纪后,科研开始职业化,论文爆炸式增长,其实就这个时候,所谓的同行评议已经不堪重负了。

17世纪到19世纪,之所以同行评议有效,是因为论文少,学者少,所以搞搞手工业无所谓,问题是20世纪后,论文生产已经工业化,评审却还是手工劳动,论文和学位,晋升强挂钩,发表是职业刚需,这就产生实质上的错位。

又因为科研日益专业化,真正懂该细分领域的合格审稿人数量有限,且他们同时要上课、申请基金、做行政、写自己的论文,论文数量指数增长,合格审稿人的注意力却不可能指数增长。

有些很窄的领域,可能真正懂的人寥寥无几,但是一年投稿可能都上千篇,根本来不及审。

天量的论文和羸弱的审理形成了矛盾,同行评议能做什么?无非就是降低标准,快速判断,扫几眼摘要,找非专家凑数,AI辅助,形式化通过。

只要毕业、晋升、基金、排名都绑定发表,论文生产就会继续膨胀,而评审劳动永远跟不上。你不可能用志愿手工评审去认证工业规模的论文生产。

一开始是顶级期刊还能保住自己的底线,一般的期刊基本上就是论文工厂,到现在,连顶级期刊都在不停地出问题,在《Cell》、《Nature》、《Science》之类的顶级期刊造假案例已经屡见不鲜。

根据2024年的统计,全球顶级期刊一共撤回190篇文章,其中《Cell》2篇、《Nature》3篇、《Science》3篇。

而学术界怎么解决这个问题?目前唯一的办法就是“呼吁学术道德”。

一个制度,在发论文和晋升,基金,排名之类的强挂钩,而唯一的制约就是“学术道德”,你就知道这个制度距离破产不远了。

陪审团

其实我根本无需就这个问题阐述很多,但就一个问题:速度,就足以让这个制度破产,这个制度早该在20世纪破产的,苟延残喘到21世纪,是AI让这个制度面临最后一脚。

我在社交媒体上表达这个看法的时候,留言不少,一个经典的留言是这样的:

“同行评议的确有很多问题,即使通过同行评议也不一定就是正确的。但是如果连同行评议都没有通过,那岂不是正不正确就全凭你一张嘴了?”

其实仅仅速度,就足以判同行评议死刑了。

法律界先行了一步。

发不发论文,顶多影响到一个人的前途,判刑不判刑,是能影响到一个人的一生。

辩诉交易,指的是法院开庭审理之前,作为控诉方的检察官和代表被告人的辩护律师进行协商,以检察官撤销指控、降格指控或者要求法官从轻判处刑罚为条件,来换取被告人的有罪答辩,进而双方达成均可接受的协议。

现代陪审团制度诞生于12世纪的英格兰,当时的英格兰只有两三百万人口,社会流动性低,村庄和百户区是熟人社会,使用陪审团是可行的。

当然,现代依然也有陪审团,但是地位大大降低了。

2025年联邦法院约有98%的案件以辩诉交易告终,联邦重罪案件中只有约2%至3%最终进入审判程序,远低于1980年代约20%的水平。

注意,这可是重罪。

甚至A级重罪(无期徒刑和死刑)辩诉交易率都不低,比如加州,七八十年代有47%的死刑案件未经审判即告解决,其中绝大多数是辩诉交易。纽约州,1995-2003年间,54起 死刑案件中有26起 提出了辩诉交易

举个例子,在章莹颖案中,辩方也曾提出以供述尸体位置来换取避免死刑的交易。

如果有人认为“公正”是必须坚持同行评议的原因,那么看看法律界,比发论文严重得多的判决,都无法坚持陪审团,原因仅仅就是“审不过来”。

在AI时代,论文的生产速度会远远超过任何同行评议,必然带来天量的论文,同行评议这个制度是绝对坚持不下去的。

我预计的结果

AI生成一篇看似逻辑严密的论文,边际成本可以忽略不计,而人类如果要评议这类论文,需要相当长的时间,过去论文工厂还需要枪手手动拼凑,现在批量生成,大量论文可以轻易把整个评议系统淹了。

陶哲轩目前退了一步,大力推崇形式化验证,其实就是在提前布局,试图在同行评议崩溃之前找到出路,通过自动化同行评议,直接过滤掉90%逻辑错误的伪证,人类数学家不再去检查繁琐的逻辑步骤。

但是陶哲轩的理想可能并不符合现实,因为形式化验证本身也有上限,举个例子,如果AI每天生成了100万份候选证明,完成形式化可能也有二三十万份,难道人类要挨个去研究这二三十万份?

当数量到达一个级别,原有的体系根本不堪重负。

目前已经实行的方法包括:

先发表,后评议,研究者先把论文上传到平台,其他人可以立即阅读、引用、评论,后续再通过专业期刊或公开讨论进行评价。

公开评议与发表后评议,论文发表之后,任何具备相关知识的人都可以提出质疑,作者回应,其他研究者继续讨论。部分期刊还会公开审稿意见和作者的修改记录。

目前还在探索审稿和期刊分离,以及机器验证,专家只审查剩下的问题。

但是我猜想,在AI继续大规模发展和普及下,所有的方法都会失效,未来采取什么样的方式我不知道,但是传统的同行评议制度的死亡是必然的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
三部门联合调查尊界V800汽车刹车踏板支架断裂问题,尊界回应:完全服从并将全力配合

三部门联合调查尊界V800汽车刹车踏板支架断裂问题,尊界回应:完全服从并将全力配合

政知新媒体
2026-10-16 00:46:36
从主持人到“精神病”,49岁无妻无子的李维嘉,不再顾及所谓体面

从主持人到“精神病”,49岁无妻无子的李维嘉,不再顾及所谓体面

兵鉴史
2026-10-07 09:14:24
外交部:现阶段要求中方参加,不公平、不合理,也不可行

外交部:现阶段要求中方参加,不公平、不合理,也不可行

环球时报国际
2026-10-16 17:39:47
拉脱维亚女人比男人多15.5%,她们开始“租老公”修水管搬东西

拉脱维亚女人比男人多15.5%,她们开始“租老公”修水管搬东西

甜菊汽水
2026-10-15 16:25:21
悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

火山詩话
2026-10-14 20:21:36
大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

面包夹知识
2026-10-16 16:08:14
全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

华庭讲美食
2026-10-15 01:39:37
严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

职场资深秘书
2026-10-16 19:33:15
白宫前发言人莱维特爆辞职内幕:每周工作超60个小时,还要随时待命,“现在每天在家陪孩子,有时到电视节目露面,完全不是一回事”

白宫前发言人莱维特爆辞职内幕:每周工作超60个小时,还要随时待命,“现在每天在家陪孩子,有时到电视节目露面,完全不是一回事”

大风新闻
2026-10-16 22:40:12
击中了!乌克兰宣布重大战果!

击中了!乌克兰宣布重大战果!

故事终将光明磊落
2026-10-16 08:19:03
太夸张了!苹果折叠屏 iPhone Duo 开售瞬间被抢空

太夸张了!苹果折叠屏 iPhone Duo 开售瞬间被抢空

XCiOS俱乐部
2026-10-16 20:21:03
著名女星发声:不想再拍大尺度戏

著名女星发声:不想再拍大尺度戏

中国新闻周刊
2026-10-15 21:48:16
孙颖莎缺席,国乒女团出征,蒯曼领衔,5人剑指亚锦赛夺回奖杯!

孙颖莎缺席,国乒女团出征,蒯曼领衔,5人剑指亚锦赛夺回奖杯!

体坛侃侃球
2026-10-16 00:10:04
56岁妻子起诉离婚称59岁丈夫出轨,当庭拿出陌生女子80多次上门监控;法院:视频系非法证据,不予采用

56岁妻子起诉离婚称59岁丈夫出轨,当庭拿出陌生女子80多次上门监控;法院:视频系非法证据,不予采用

大风新闻
2026-10-16 18:50:04
李斌首次服软特斯拉,飞行汽车,这个真没有!雷军:我们干的都是别人能干的,马斯克干的别人想不到,我们比不过他

李斌首次服软特斯拉,飞行汽车,这个真没有!雷军:我们干的都是别人能干的,马斯克干的别人想不到,我们比不过他

大白聊IT
2026-10-17 00:32:02
真人主播清零!宁夏电视台全天新闻播报都用上了AI主播

真人主播清零!宁夏电视台全天新闻播报都用上了AI主播

玛丽姬丝
2026-10-16 08:45:55
不到48小时,星链恢复了,特朗普和马斯克受到什么压力?

不到48小时,星链恢复了,特朗普和马斯克受到什么压力?

山河路口
2026-10-16 12:22:41
广东省政府原副秘书长吴耿淡被开除党籍和公职

广东省政府原副秘书长吴耿淡被开除党籍和公职

界面新闻
2026-10-16 17:03:26
“没业绩就要去KTV‘陪大哥’。”女主播自曝团播乱象:下播后“写100条作业”,痛经痛到吃药上播,直呼“再也不想干了,老板翻脸太快”

“没业绩就要去KTV‘陪大哥’。”女主播自曝团播乱象:下播后“写100条作业”,痛经痛到吃药上播,直呼“再也不想干了,老板翻脸太快”

芒果都市
2026-10-16 11:29:34
3.0T!奔驰新车官宣:10月29日,正式上市

3.0T!奔驰新车官宣:10月29日,正式上市

科技堡垒
2026-10-16 12:45:52
2026-10-17 02:55:00
李建秋 incentive-icons
李建秋
一切历史都是当代史
82文章数 301关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

郭富城现身香港大学,袁咏仪夫妇全程冷漠不搭话

财经要闻

港交所拟2028年下半年实施T+1结算

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

数码
教育
本地
房产
公开课

数码要闻

曝英特尔将推8E + 4Xe版"Panther Lake"锐炫G掌机处理器

教育要闻

陈行甲:别美化苦难,能不经历最好不经历

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版