网易首页 > 网易号 > 正文 申请入驻

MIT神作被锤:Astra爆改Qwen权重?就吹吧!

0
分享至

Jay 发自 凹非寺
量子位 | 公众号 QbitAI

Astra修改小模型权重?MIT那篇爆火研究,被大佬公开质疑了。

Astra前两天刚刚凭借一项惊人能力刷屏AI圈——不用训练、不算梯度,直接修改另一个AI模型的权重。

MIT团队宣称,Astra仅修改Qwen3.5-0.8B的0.016%权重,就让数学成绩从7.9%暴涨至48.1%,相当于提升到原来的6倍多。

甚至有网友感慨:AI已经开始读懂另一个AI的大脑了。

然而,事情似乎出现了反转。

一位来头不小的圈内大佬公开发文,提出了质疑。

这项研究存在严重误导。


image.png

质疑者叫Matthew Honnibal,spaCy的作者、AI公司Explosion的联合创始人。

魔术师戏法

这背后到底发生了什么?

Honnibal用了一个很妙的比方,讽刺了MIT研究所做的事:障眼法。

舞台魔术师常常用多种方式来表演同一个戏法。
第一次,他可能用了一个特殊的道具;下一次,他会向你展示道具并无特殊,但他自己藏起了东西;第三次,可能又利用了某种强迫选择。
当你观看表演时,你会假设只有一种技术,所以每当魔术师表演一次,似乎都推翻了你对其工作原理的假设。

Honnibal认为,Astra这项研究的实验呈现,就酷似这样一场魔术。

回到Paper,原文其实展示了三项不同的能力:

  1. 读权重:只看原始的权重数字,就能识别一个小型神经网络正在执行什么任务。
  2. 写权重:不依赖环境反馈,从零开始直接生成或修改小型网络的参数,让它能玩《打砖块》之类的小游戏。
  3. 修复大模型:通过修改Qwen的部分权重,大幅提高其数学测试表现。

但这篇论文摘要给人的核心印象却是——

Astra「仅通过观察原始权重」,就能理解并修改另一个模型。

如果只是一眼扫过,很难不让人理解为:

无论是识别一个小型网络的功能,还是修复一个大语言模型的数学能力,都源于同一种「读脑」神技。

但,这是真的吗?

Honnibal仔细梳理了论文中的8组实验后发现:实现这三件事的实验条件,天差地别。

也就是说——

纯纯是在偷换概念。

两种技术路径

那么不同实验之间,到底有什么猫腻?

首先,在识别小型网络任务、修复一个卡住的赛车模型等实验中,Astra确实做到了「只看原始权重」。

因为实验条件非常苛刻:

  • 直接将权重数字(raw floats)作为输入,放进Astra的上下文。
  • 不允许Astra运行Python代码。
  • 不允许Astra执行目标网络来观察其行为。

在这种模式下,Astra处理的模型参数规模都非常小,在1.7万到17.2万之间。这确实很了不起,但距离真正理解一个现代大语言模型,还有很长的路。

但到了最引人注目、也最令人振奋的Qwen数学能力修复实验,就完全不是这么回事儿了。

在修复8亿参数的Qwen模型时,Astra并没有直接读取原始权重。

取而代之的是,Astra被授权使用Python编程,并且最多可以进行50次前向测试。每次允许模型处理一批练习题,通过观察模型的表现来分析和修改权重。

这根本是两码事。。。

Honnibal一针见血地指出,将这两种方法打包在一起,很容易让读者误以为:

噢,那种在小模型上实现的「读脑术」,同样可以规模化地应用在8亿参数的大模型上。

但事实是,在处理真正的大语言模型时,Astra更像一个「场外教练」,需要通过编程、运行、观察等一系列工程手段来介入。

真正的价值

那么,这是否意味着MIT的研究毫无价值?

当然不是。

必须承认,即使剥离了「读心术」的光环,Astra所展现的能力依旧非常了不起。

Honnibal也坦言,让一个AI模型被提示去设计并执行人类机器学习工程师才能完成的任务——编写代码片段来分析甚至直接修改网络权重——这本身就是一个巨大的进步。

一两年前的AI模型,在所有这些任务上都会失败。

这说明,今天的顶尖大模型,已经具备了相当复杂的工具使用和推理能力,能够作为一个「AI工程师」来诊断和修复其他模型。这本身就是一项值得关注的工程突破。

真正的问题,在于成果的呈现方式。

将两种截然不同的能力,模糊地包装成一种统一的、能够读写AI大脑的「超能力」。

说实话,乍一听还以为是A社做的事。。。

也侧面反映了如今AI圈的Hype狂潮吧。

原文:https://honnibal.dev/blog/astra-read-write-misleading

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
李一桐变得越来越妩媚了,黑丝袜搭配白衬衣尽显制服风韵!

李一桐变得越来越妩媚了,黑丝袜搭配白衬衣尽显制服风韵!

说不尽的人心
2026-11-22 10:41:55
2-0,4-0!英超疯狂1夜!曼联惨败,布莱顿大爆冷,积分榜出炉

2-0,4-0!英超疯狂1夜!曼联惨败,布莱顿大爆冷,积分榜出炉

过期少女致幻录
2026-11-23 03:34:31
股票跌、基金跌、黄金跌、比特币跌,为什么所有资产都在跌?

股票跌、基金跌、黄金跌、比特币跌,为什么所有资产都在跌?

村夫观天下
2026-11-22 21:31:28
3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

刘姚尧的文字城堡
2026-11-22 20:13:56
终南山第一隐士:隐居30多年,天天清水煮白菜,现亲人已认不出他

终南山第一隐士:隐居30多年,天天清水煮白菜,现亲人已认不出他

快乐彼岸
2026-10-22 04:01:15
首都医科大学孙永全教授因病离世,年仅62岁

首都医科大学孙永全教授因病离世,年仅62岁

双一流高校
2026-11-23 00:08:08
29岁中国女排名将称国外没有瘦肉精!拒道歉不回应 网友:崇洋媚外

29岁中国女排名将称国外没有瘦肉精!拒道歉不回应 网友:崇洋媚外

念洲
2026-11-22 08:51:44
特朗普已乘专机离华,回国后的第一场记者会,就给日本浇下冷水?

特朗普已乘专机离华,回国后的第一场记者会,就给日本浇下冷水?

星落山间
2026-11-22 17:33:19
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-09-17 06:00:15
仰天长啸+捂脸痛哭!桥本一周两冠世排升13位 日媒:国乒也在忌惮她

仰天长啸+捂脸痛哭!桥本一周两冠世排升13位 日媒:国乒也在忌惮她

颜小白的篮球梦
2026-11-22 23:22:20
儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

温情邮局
2025-09-28 11:57:16
油价又调了,新能源车主下半年就剩两条路,第二条很多人不想承认

油价又调了,新能源车主下半年就剩两条路,第二条很多人不想承认

沙雕小琳琳
2026-11-23 03:06:58
报复连夜落地!凌晨4枚锆石狂轰6万人小城,普京赌的是乌军拦不住

报复连夜落地!凌晨4枚锆石狂轰6万人小城,普京赌的是乌军拦不住

观锐器
2026-11-19 23:10:04
0-3!迈阿密国际季后赛惨败,梅西0进球0助攻,下场不赢就出局

0-3!迈阿密国际季后赛惨败,梅西0进球0助攻,下场不赢就出局

体育知多少
2026-11-22 09:21:53
吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

华庭讲美食
2026-11-22 14:02:23
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
伊朗副外长证实调解方卡塔尔代表团访问德黑兰

伊朗副外长证实调解方卡塔尔代表团访问德黑兰

澎湃新闻
2026-11-22 01:49:02
77年我把大院千金藏在草垛,20年后她成一把手,开车堵了我家大门

77年我把大院千金藏在草垛,20年后她成一把手,开车堵了我家大门

卡西莫多的故事
2026-05-09 09:42:29
2026-11-23 04:11:00
量子位 incentive-icons
量子位
追踪人工智能动态
13709文章数 176603关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

艺术
数码
健康
房产
公开课

艺术要闻

印度,一个盛产美女的国家:多元血脉与纱丽风情交织的独特之美

数码要闻

NVIDIA驱动SSD异常写入:最新紧急补丁也没解决!待机一夜仍写入36GB

医生眼里"很伤腰"的椅子,很多人天天坐

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版