网易首页 > 网易号 > 正文 申请入驻

Claude给391行代码找Bug,狂写1.8亿行证明!

0
分享至

henry 发自 凹非寺
量子位 | 公众号 QbitAI

Claude这家伙,也是把debug,玩成扫雷硬解了。

就在刚刚,Anthropic发布了与Theorem合作的最新研究:

让Claude在几周内,为123个开源库中的239个测试入口完成形式化验证,最终产出约1.8亿行通过机器检查的证明代码。



据A社(全美班)团队介绍,这是其所知的首次大规模利用AI,在汇编代码层面对生产软件开展形式化验证。



听起来有点绕,但简单来说,其实就是让Claude找出Bug,修掉,然后交一份证明,说明规定范围内的这类错误不会再出现。

这就像在软件里扫雷,扫完还得写份报告,交代清楚:为什么这里没雷?

而为了写出这份证明,Claude还真挖出了一批藏得很深的Bug。

测试没撞上的Bug,被证明揪出来了

具体来说,Claude这次检查的,是一批长期接受安全测试的开源库。

这些库接入了谷歌的OSS-Fuzz项目。测试工具会给程序喂各种输入,看看哪一种能把它搞崩,再顺着崩溃的地方找Bug。这种方法,就叫“模糊测试”。

比如,正常用户上传一张完整图片,测试工具偏要反着来:把文件截掉一半,改几个字节,看看程序还能不能接住。

试得越多,就越有机会撞上问题,但没试到的地方,仍然可能藏着Bug。

但你别说,试着试着,还真让Claude在一个解压器里发现了异常:某些输入会让计数器算错,导致程序把数据写到分配好的内存范围之外。

要触发这个错误,你得喂进去一份大约20MB、而且内容排列非常特殊的输入,类似于卡bug。

以往的模糊测试通常把输入限制在1MB以内,如果你按这个限制继续测,自然碰不到那份20MB的数据。

那为啥Claude就发现了呢?是因为团队给它换了一道题:证明规定范围内的所有输入,都不会触发约定的错误。

也就是说,这份20MB的数据也在Claude扫射的范围内。

只要它还能让程序出错,那份“不会出错”的证明就无法成立。于是,尝试证明的过程,反过来帮Claude找到了漏洞。

据团队介绍,顺着这条思路,Claude已经发现了数百个Bug。确认问题后,Claude会先修改代码,再继续证明修改后的程序。

391行代码,交了63万行“解题过程”

那么,为了完成这些证明,Claude写了多少东西?

有一说一,这可能是新的tokenmaxxing赛道:在一个叫cJSON的开源库里,一个解析入口只有391行C代码,Claude却交出了约63万行证明。

之所以这么烧token,是因为Claude既要证明这段代码,也得考虑程序调用的基础功能。

具体的,为了处理大量重复工作,Claude还给自己写了工具,自动生成了超过一半的证明内容。

而且,它检查的是编译后的机器指令,也就是程序交给处理器执行的那个版本。团队还得先为指令和运行环境建立数学模型,再让Claude在模型里证明安全要求。

最后,Claude写完证明,还要交给人类开发的Rocq证明检查器。

具体流程是这样的:

Rocq会按照逻辑规则自动验算。只要有一步推理不成立,这份证明就过不了关。

换句话说,Claude这招写证明Debug的思路,跟AI做数学题还挺像,机器也能自动验算,但要推广到更多软件,仍需要人类把关。

不过,好消息是这些证明还能复用。不同程序经常共用基础功能,Agent可以借用、修改已有证明,不必每次从头写。实验中,共享证明让同一组任务少用了17%的token。



与此同时,模型升级也在降低消耗:在36项小型验证任务中,Opus 5.5完成其中一半所需的token,比Opus 5少了约40%。目前,团队已公开25个库、60个测试入口的证明,开发者可以下载复用。

另一边,安全圈已经急了

说到这,这项研究背后还有一个现实问题:AI也在帮助攻击者提速。

10月21日,微软披露,攻击组织Storm-0940利用AI代理框架,自动攻击全球数百家组织。多数目标没有被成功攻破,但在多个成功案例中,攻击者从选定目标到拿到云端特权,用时不到3小时。



最近披露的PHP2Shell,同样让安全圈捏了把汗。

PHP是WordPress等大量网站依赖的底层技术。Wiz研究团队表示,他们借助AI发现了其中长期潜伏的漏洞,还做出了可行的利用方式,可能让攻击者无需登录,就能在受影响的服务器上执行代码。PHP已于10月21日发布补丁。



不过,补丁发出来,还得各个网站及时装上。与此同时,攻击尝试已经迅速增加。Cloudflare CEO Matthew Prince披露,漏洞公开后,其网络观察到的利用尝试已达数百万次。至于其中有多少使用了AI,目前还不清楚。

可以说,防守这块能不能跟上,已经成了眼前的问题。

A社也在10月8日推出Cyber Mission,支持关键基础设施和开源软件的安全防护。

不过,它自己也承认:找到漏洞之后,确认和修复仍然很难。尤其是电网、水务、工厂里的设备,总不能来一句“更新已完成,请立即重启”。

围绕近期接连披露的攻击,网友Chubby,判断眼下可能正在迎来一个转折点。

在转发Anthropic副首席信息安全官Jason Clinton的警告时,他表示,自己向来不是末日论者,但当前局势确实显得严峻。



Clinton则呼吁安全负责人立即向董事会争取支持,先补足基础安全措施。

他个人判断,情况在好转前还会恶化,行业可能需要撑过约18个月。

而Claude这次尝试再往前走一步:改完代码,还得交出一份“为什么这样就安全了”的证明。

参考链接
[1]https://www.anthropic.com/research/formal-verification

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
李一桐变得越来越妩媚了,黑丝袜搭配白衬衣尽显制服风韵!

李一桐变得越来越妩媚了,黑丝袜搭配白衬衣尽显制服风韵!

说不尽的人心
2026-11-22 10:41:55
2-0,4-0!英超疯狂1夜!曼联惨败,布莱顿大爆冷,积分榜出炉

2-0,4-0!英超疯狂1夜!曼联惨败,布莱顿大爆冷,积分榜出炉

过期少女致幻录
2026-11-23 03:34:31
股票跌、基金跌、黄金跌、比特币跌,为什么所有资产都在跌?

股票跌、基金跌、黄金跌、比特币跌,为什么所有资产都在跌?

村夫观天下
2026-11-22 21:31:28
3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

刘姚尧的文字城堡
2026-11-22 20:13:56
终南山第一隐士:隐居30多年,天天清水煮白菜,现亲人已认不出他

终南山第一隐士:隐居30多年,天天清水煮白菜,现亲人已认不出他

快乐彼岸
2026-10-22 04:01:15
首都医科大学孙永全教授因病离世,年仅62岁

首都医科大学孙永全教授因病离世,年仅62岁

双一流高校
2026-11-23 00:08:08
29岁中国女排名将称国外没有瘦肉精!拒道歉不回应 网友:崇洋媚外

29岁中国女排名将称国外没有瘦肉精!拒道歉不回应 网友:崇洋媚外

念洲
2026-11-22 08:51:44
特朗普已乘专机离华,回国后的第一场记者会,就给日本浇下冷水?

特朗普已乘专机离华,回国后的第一场记者会,就给日本浇下冷水?

星落山间
2026-11-22 17:33:19
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-09-17 06:00:15
仰天长啸+捂脸痛哭!桥本一周两冠世排升13位 日媒:国乒也在忌惮她

仰天长啸+捂脸痛哭!桥本一周两冠世排升13位 日媒:国乒也在忌惮她

颜小白的篮球梦
2026-11-22 23:22:20
儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

温情邮局
2025-09-28 11:57:16
油价又调了,新能源车主下半年就剩两条路,第二条很多人不想承认

油价又调了,新能源车主下半年就剩两条路,第二条很多人不想承认

沙雕小琳琳
2026-11-23 03:06:58
报复连夜落地!凌晨4枚锆石狂轰6万人小城,普京赌的是乌军拦不住

报复连夜落地!凌晨4枚锆石狂轰6万人小城,普京赌的是乌军拦不住

观锐器
2026-11-19 23:10:04
0-3!迈阿密国际季后赛惨败,梅西0进球0助攻,下场不赢就出局

0-3!迈阿密国际季后赛惨败,梅西0进球0助攻,下场不赢就出局

体育知多少
2026-11-22 09:21:53
吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

华庭讲美食
2026-11-22 14:02:23
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
伊朗副外长证实调解方卡塔尔代表团访问德黑兰

伊朗副外长证实调解方卡塔尔代表团访问德黑兰

澎湃新闻
2026-11-22 01:49:02
77年我把大院千金藏在草垛,20年后她成一把手,开车堵了我家大门

77年我把大院千金藏在草垛,20年后她成一把手,开车堵了我家大门

卡西莫多的故事
2026-05-09 09:42:29
2026-11-23 04:11:00
量子位 incentive-icons
量子位
追踪人工智能动态
13709文章数 176603关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

健康
数码
亲子
旅游
本地

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

NVIDIA驱动SSD异常写入:最新紧急补丁也没解决!待机一夜仍写入36GB

亲子要闻

难怪养孩子3岁不离手5岁不离眼!看评论区我呆住,人心险恶亲戚歹毒

旅游要闻

【甘快看】文旅新探·探秘丨大地湾,渭水文脉八千年

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版