网易首页 > 网易号 > 正文 申请入驻

700GB数据被Claude“一键清空”!CTO傻眼了:本想让AI清垃圾,结果一周工作成果都没了……

0
分享至

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

最近,开发者 Sebastien Guillemot 经历了一场惊险事故:

他原本只是想让 Claude 写一个脚本,自动清理 AI Agent 留在 /tmp 目录中的垃圾文件,结果 AI 在“安全审查”之后,亲手把他的整个主目录(Home Directory)给端了——700GB数据,一周的工作成果,说没就没


更讽刺的是,那个最初他想要清理的 /tmp 目录,最后被 Claude“完美地”保留了下来。


一切起因,只是AI Agent太爱“留垃圾”

身为隐私性区块链项目 Midnight 基金会的 CTO,日常中 Guillemot 是一名重度 AI Agent 用户,经常在开发中频繁调用各种 AI 编程助手。但他发现,这些 Agent 有一个共同毛病:

干活很积极,收尾很随缘——大量临时文件会被堆积在 /tmp 目录中,时间一长,不仅占用磁盘空间,也让整个开发环境变得越来越混乱。

于是,他让 Claude Fable 5 帮忙写一个自动清理脚本:给每个 Agent 分配一个独立的 /tmp 目录,任务完成后,就把属于它的临时文件一起删除。

听起来很简单,但真正的难点在于不能误删仍在使用的文件。

Fable 最初给出的方案是,检测Agent是否还在运行。如果某个Agent还在工作,就暂时不要清理它对应的目录。不过Guillemot觉得这套代码过于复杂,要求 Claude 进一步简化。

到这里,一切都还很正常,问题出现在随后进行的安全审查。

由于任务涉及真正的文件删除操作,Fable 主动进行了一次“对抗性审查”(adversarial review),也就是让另一个 Claude 实例检查这套代码是否存在安全问题。

也正是这个环节,触发了 Anthropic 内置的安全降级机制:当系统判定任务涉及敏感操作(如文件删除、网络安全等)时,会自动将模型从高级版本降级到更保守的版本——这套机制,本意是为了降低高风险场景下模型“过于激进”的可能性。

于是,模型先是从Fable 5降到了Opus 5,然后进一步降到了Opus 4.8

11月20-21日 · 北京万达文化酒店「2026 奇点智能技术大会」70+ 技术嘉宾、18 大专题,系统软件与 AI 基础设施一线实践现场开讲。

扫码免费领取「2026 奇点智能技术大会与 PPT 与Agent 实战训练营」资料


最讽刺的一幕:安全测试真的通过了

接下来,Opus 4.8 开始执行安全测试。测试目标其实非常明确:检查删除命令最终指向的路径,如果发现目标是 /tmp 或用户的主目录,就应该拒绝执行。

结果呢?测试成功了,/tmp 和主目录都被正确识别为“危险目标,不可删除”。

从安全测试本身来看,这一步模型没做错。可问题在于,测试结束之后还有一个“清理测试现场”的步骤——而灾难,就藏在这个清理步骤里:

代码在测试阶段使用了一个变量保存删除目标,安全检查发现目标危险后,程序触发退出流程;与此同时,退出流程又会调用清理函数,对测试过程中产生的临时内容执行删除。

关键 Bug 出现了:测试代码和清理代码复用了同一个变量名。

于是,那个原本已被判断为“绝对不能删除”的主目录路径,又被清理函数拿到了。然后,一个熟悉得不能再熟悉的命令出现了:rm -rf —— 结果就是,模型刚确认“这个目录不能删”,下一步却拿着同一个变量把它删了。

从技术角度看,这其实是一个非常典型的变量复用问题,甚至算不上什么高深 Bug。也就是说,安全检查本身没有问题,真正出问题的是安全检查之后的测试清理逻辑。


700GB数据没了,连 /tmp 都没清干净

Guillemot 很快意识到了问题并试图终止进程,但已经来不及了:大约 700GB 数据被删除,其中包括整整一周的工作成果;更让他无语的是,那个最初让他头疼、希望 AI 帮忙清理的 /tmp 垃圾文件,反而留了下来。

从Guillemot 公开展示的记录来看,两份相关文件此前已完成写入,随后退出清理流程被触发,最终删除操作发生在大约 05:23—05:24。也就是说,工具调用表面上可能已显示“拒绝”,但相关文件写入和退出清理流程实际上已经发生。

事故发生后,一个问题出现了:如果当时没有从 Fable 5 降级到 Opus 4.8,是不是就不会出事?

对此,Guillemot 的判断是:有可能。按照他的说法,Fable 5 在编码任务上的表现优于 Opus 4.8,更强的模型或许有机会发现测试代码中那个危险的变量复用问题。

不过,这只是他单方面的猜测,目前没有公开的对照实验能够证明:如果换回 Fable 5,它一定会发现这个 Bug。

好消息是,Guillemot 最终通过 Git、Nix、Session Logs(会话日志) 等多个来源,恢复了大部分数据和工作成果。但版本控制系统和日志只能恢复其中一部分已记录或留存的数据,无法替代完整的独立备份——是的,他运行了这么多 AI Agent,居然连一份每日备份都没有。

毕竟,AI 可以帮你写脚本,也可以帮你清理垃圾;但如果它把“垃圾”的定义扩展到了你的整个主目录,最后真正能救你的,可能还是那份没有交给 AI 保管的备份。

参考链接:https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-nukes-a-developers-700-gb-home-directory-while-testing-a-script-to-ensure-it-wouldnt-do-so-automatic-model-downgrade-may-have-contributed-to-the-screw-up

文末福利|AI 开学季硬核资料免费领

2026 奇点智能技术大会限时送出两份技术礼包:

Łukasz Kaiser 历届演讲视频 + PPT

Transformer 八子之一、OpenAI 资深研究科学家,带你理解推理模型与大模型第一性原理。

Agent 实战训练营录播课

覆盖 Agent 架构、基座模型、Skill、Agentic Infra 等核心技术,从理论到企业级落地。

扫码免费领取,两套硬核资料一次带走。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
CCTV5直播,中国男篮VS菲律宾男篮,廖三宁3人成胜负手,全力晋级

CCTV5直播,中国男篮VS菲律宾男篮,廖三宁3人成胜负手,全力晋级

体坛小快灵
2026-09-13 09:41:34
广州一男子联系“急开锁”,上门前说只要200元,之后暴力开锁换新锁要1730;消费者:师傅大高个拿扳手有纹身,不敢不给;开锁平台回应

广州一男子联系“急开锁”,上门前说只要200元,之后暴力开锁换新锁要1730;消费者:师傅大高个拿扳手有纹身,不敢不给;开锁平台回应

大风新闻
2026-09-12 20:33:04
法媒:中国041型核潜艇,大批量建造,到底可能有多大?

法媒:中国041型核潜艇,大批量建造,到底可能有多大?

快乐彼岸
2026-09-13 02:56:52
刘銮雄携甘比看演唱会,小女儿粉衣朴素可爱,夫妻全程零交流像父女

刘銮雄携甘比看演唱会,小女儿粉衣朴素可爱,夫妻全程零交流像父女

猪小艳吖
2026-09-12 20:17:07
“10岁就有九个洞了!”小学女孩早熟视频火了,中学生都看不下去

“10岁就有九个洞了!”小学女孩早熟视频火了,中学生都看不下去

妍妍教育日记
2026-09-11 15:24:51
伊朗20年地下军事城被以军炸毁,内塔尼亚胡晒视频嘲讽:完成任务

伊朗20年地下军事城被以军炸毁,内塔尼亚胡晒视频嘲讽:完成任务

军情观察家
2026-09-11 20:52:40
脸都不要了!湖南洞口孩子买了50元学平险,结果真得癌了,谁料保险公司翻出国际疾病分类,说编码不对,不符合“恶性肿瘤-重度”条款

脸都不要了!湖南洞口孩子买了50元学平险,结果真得癌了,谁料保险公司翻出国际疾病分类,说编码不对,不符合“恶性肿瘤-重度”条款

火山詩话
2026-09-10 10:40:36
小马科斯怕是要气炸了!9月9号,菲律宾最高法院突然扔出一颗重磅炸弹,前第一夫人伊梅尔达·马科斯的7项贪污罪,全给推翻了,改判无罪

小马科斯怕是要气炸了!9月9号,菲律宾最高法院突然扔出一颗重磅炸弹,前第一夫人伊梅尔达·马科斯的7项贪污罪,全给推翻了,改判无罪

扶苏聊历史
2026-09-12 14:58:23
男子买95万二手房装修,发现卧室面积少4平米,砸开墙后顿时愣住

男子买95万二手房装修,发现卧室面积少4平米,砸开墙后顿时愣住

程哥讲堂
2025-06-02 18:21:32
突发停产!某钢铁集团又停了!

突发停产!某钢铁集团又停了!

新浪财经
2026-09-13 07:05:36
乌克兰这次上了俄罗斯的当!以为在红利曼把俄军主力死死包围了

乌克兰这次上了俄罗斯的当!以为在红利曼把俄军主力死死包围了

小马姨
2026-09-12 10:35:54
“这个鼻子太优越了”,家长晒无美颜大一女儿哭鼻子,网友被震撼

“这个鼻子太优越了”,家长晒无美颜大一女儿哭鼻子,网友被震撼

熙熙说教
2026-09-12 13:20:24
武汉小学订奶的坐着喝,没订的站后排喝水。教育局说“误解”——可画面里是那排站得整整齐齐的孩子

武汉小学订奶的坐着喝,没订的站后排喝水。教育局说“误解”——可画面里是那排站得整整齐齐的孩子

听心堂
2026-09-11 07:48:07
郑佩佩自传谈及许晴向她宣泄情绪,坦言最难以理解的人便是许晴

郑佩佩自传谈及许晴向她宣泄情绪,坦言最难以理解的人便是许晴

情感大头说说
2026-09-12 11:00:28
炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

悠悠说世界
2026-08-17 13:48:27
小米Logo被赛事声明删除、车队退赛,冠名合作的信任危机如何化解

小米Logo被赛事声明删除、车队退赛,冠名合作的信任危机如何化解

呼呼历史论
2026-09-12 08:15:49
16岁中国小将孙心然美网夺冠,中国网球协会发贺信:宝剑锋从磨砺出,梅花香自苦寒来

16岁中国小将孙心然美网夺冠,中国网球协会发贺信:宝剑锋从磨砺出,梅花香自苦寒来

政知新媒体
2026-09-13 07:28:04
“员工请假陪患癌母亲手术被拒”进展:已获5天假期,律师认为“入职三月才可请假”条款无效

“员工请假陪患癌母亲手术被拒”进展:已获5天假期,律师认为“入职三月才可请假”条款无效

封面新闻
2026-09-12 15:45:42
中华人民共和国正式宣告两件大事:第一件就是,我们的福建舰航母正式服役了,中国海军从此迈入三航母时代

中华人民共和国正式宣告两件大事:第一件就是,我们的福建舰航母正式服役了,中国海军从此迈入三航母时代

回京历史梦
2026-09-10 14:07:25
当今社会10大“傻”,我中了6条,你呢?看完别笑,说的就是你!

当今社会10大“傻”,我中了6条,你呢?看完别笑,说的就是你!

小陆搞笑日常
2026-09-12 17:38:45
2026-09-13 10:39:00
CSDN incentive-icons
CSDN
成就一亿技术人
26947文章数 242329关注度
往期回顾 全部

科技要闻

三位AI大佬,罕见呼吁AI减速

头条要闻

白岩松追忆敬一丹:她走的从容而坚定 没有任何遗憾

头条要闻

白岩松追忆敬一丹:她走的从容而坚定 没有任何遗憾

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

主持人敬一丹去世,女儿悲痛发讣告

财经要闻

“1+N+X”!私募业,监管规则密集落地!

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
艺术
房产
健康
公开课

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

艺术要闻

大唐名媛的游园图鉴:簪花、薄纱、遛鹤逗犬

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

手脚发麻口齿不清?也可能是中风!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版