网易首页 > 网易号 > 正文 申请入驻

700GB数据被Claude“一键清空”!CTO傻眼了:本想让AI清垃圾,结果一周工作成果都没了……

0
分享至

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

最近,开发者 Sebastien Guillemot 经历了一场惊险事故:

他原本只是想让 Claude 写一个脚本,自动清理 AI Agent 留在 /tmp 目录中的垃圾文件,结果 AI 在“安全审查”之后,亲手把他的整个主目录(Home Directory)给端了——700GB数据,一周的工作成果,说没就没


更讽刺的是,那个最初他想要清理的 /tmp 目录,最后被 Claude“完美地”保留了下来。


一切起因,只是AI Agent太爱“留垃圾”

身为隐私性区块链项目 Midnight 基金会的 CTO,日常中 Guillemot 是一名重度 AI Agent 用户,经常在开发中频繁调用各种 AI 编程助手。但他发现,这些 Agent 有一个共同毛病:

干活很积极,收尾很随缘——大量临时文件会被堆积在 /tmp 目录中,时间一长,不仅占用磁盘空间,也让整个开发环境变得越来越混乱。

于是,他让 Claude Fable 5 帮忙写一个自动清理脚本:给每个 Agent 分配一个独立的 /tmp 目录,任务完成后,就把属于它的临时文件一起删除。

听起来很简单,但真正的难点在于不能误删仍在使用的文件。

Fable 最初给出的方案是,检测Agent是否还在运行。如果某个Agent还在工作,就暂时不要清理它对应的目录。不过Guillemot觉得这套代码过于复杂,要求 Claude 进一步简化。

到这里,一切都还很正常,问题出现在随后进行的安全审查。

由于任务涉及真正的文件删除操作,Fable 主动进行了一次“对抗性审查”(adversarial review),也就是让另一个 Claude 实例检查这套代码是否存在安全问题。

也正是这个环节,触发了 Anthropic 内置的安全降级机制:当系统判定任务涉及敏感操作(如文件删除、网络安全等)时,会自动将模型从高级版本降级到更保守的版本——这套机制,本意是为了降低高风险场景下模型“过于激进”的可能性。

于是,模型先是从Fable 5降到了Opus 5,然后进一步降到了Opus 4.8

11月20-21日 · 北京万达文化酒店「2026 奇点智能技术大会」70+ 技术嘉宾、18 大专题,系统软件与 AI 基础设施一线实践现场开讲。

扫码免费领取「2026 奇点智能技术大会与 PPT 与Agent 实战训练营」资料


最讽刺的一幕:安全测试真的通过了

接下来,Opus 4.8 开始执行安全测试。测试目标其实非常明确:检查删除命令最终指向的路径,如果发现目标是 /tmp 或用户的主目录,就应该拒绝执行。

结果呢?测试成功了,/tmp 和主目录都被正确识别为“危险目标,不可删除”。

从安全测试本身来看,这一步模型没做错。可问题在于,测试结束之后还有一个“清理测试现场”的步骤——而灾难,就藏在这个清理步骤里:

代码在测试阶段使用了一个变量保存删除目标,安全检查发现目标危险后,程序触发退出流程;与此同时,退出流程又会调用清理函数,对测试过程中产生的临时内容执行删除。

关键 Bug 出现了:测试代码和清理代码复用了同一个变量名。

于是,那个原本已被判断为“绝对不能删除”的主目录路径,又被清理函数拿到了。然后,一个熟悉得不能再熟悉的命令出现了:rm -rf —— 结果就是,模型刚确认“这个目录不能删”,下一步却拿着同一个变量把它删了。

从技术角度看,这其实是一个非常典型的变量复用问题,甚至算不上什么高深 Bug。也就是说,安全检查本身没有问题,真正出问题的是安全检查之后的测试清理逻辑。


700GB数据没了,连 /tmp 都没清干净

Guillemot 很快意识到了问题并试图终止进程,但已经来不及了:大约 700GB 数据被删除,其中包括整整一周的工作成果;更让他无语的是,那个最初让他头疼、希望 AI 帮忙清理的 /tmp 垃圾文件,反而留了下来。

从Guillemot 公开展示的记录来看,两份相关文件此前已完成写入,随后退出清理流程被触发,最终删除操作发生在大约 05:23—05:24。也就是说,工具调用表面上可能已显示“拒绝”,但相关文件写入和退出清理流程实际上已经发生。

事故发生后,一个问题出现了:如果当时没有从 Fable 5 降级到 Opus 4.8,是不是就不会出事?

对此,Guillemot 的判断是:有可能。按照他的说法,Fable 5 在编码任务上的表现优于 Opus 4.8,更强的模型或许有机会发现测试代码中那个危险的变量复用问题。

不过,这只是他单方面的猜测,目前没有公开的对照实验能够证明:如果换回 Fable 5,它一定会发现这个 Bug。

好消息是,Guillemot 最终通过 Git、Nix、Session Logs(会话日志) 等多个来源,恢复了大部分数据和工作成果。但版本控制系统和日志只能恢复其中一部分已记录或留存的数据,无法替代完整的独立备份——是的,他运行了这么多 AI Agent,居然连一份每日备份都没有。

毕竟,AI 可以帮你写脚本,也可以帮你清理垃圾;但如果它把“垃圾”的定义扩展到了你的整个主目录,最后真正能救你的,可能还是那份没有交给 AI 保管的备份。

参考链接:https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-nukes-a-developers-700-gb-home-directory-while-testing-a-script-to-ensure-it-wouldnt-do-so-automatic-model-downgrade-may-have-contributed-to-the-screw-up

文末福利|AI 开学季硬核资料免费领

2026 奇点智能技术大会限时送出两份技术礼包:

Łukasz Kaiser 历届演讲视频 + PPT

Transformer 八子之一、OpenAI 资深研究科学家,带你理解推理模型与大模型第一性原理。

Agent 实战训练营录播课

覆盖 Agent 架构、基座模型、Skill、Agentic Infra 等核心技术,从理论到企业级落地。

扫码免费领取,两套硬核资料一次带走。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
周星驰《功夫女足》杀疯了!60天飙涨23倍,仅1.8%排片狂揽15.9%票房

周星驰《功夫女足》杀疯了!60天飙涨23倍,仅1.8%排片狂揽15.9%票房

陈意小可爱
2026-09-12 18:43:36
为国争光却惨遭郎平弃用!选择投奔土耳其的王一梅,如今生活怎样

为国争光却惨遭郎平弃用!选择投奔土耳其的王一梅,如今生活怎样

桑葚爱动画
2026-09-13 09:43:12
万斯极有可能当选美国总统!一旦成真,全球大变局,中国首当其冲

万斯极有可能当选美国总统!一旦成真,全球大变局,中国首当其冲

麓谷隐士
2026-09-12 00:05:07
亲子心理学:发现没,从小“跟妈妈睡”和“不跟妈妈睡”的孩子,长大后区别真的很大

亲子心理学:发现没,从小“跟妈妈睡”和“不跟妈妈睡”的孩子,长大后区别真的很大

心理观察局
2026-09-06 07:13:04
莫迪握着伊朗总统的手,普京在他另一侧,向世界展示印度平衡政策

莫迪握着伊朗总统的手,普京在他另一侧,向世界展示印度平衡政策

阿尔卑斯瞭望
2026-09-12 17:05:30
列宁遗体每年烧掉100多万,民众要求下葬,普京:我在,谁也不能动

列宁遗体每年烧掉100多万,民众要求下葬,普京:我在,谁也不能动

一姐说军史
2026-09-11 14:42:04
《兄弟连》开播25周年,居然出了新片!原班主演出镜,大家都老了

《兄弟连》开播25周年,居然出了新片!原班主演出镜,大家都老了

头号电影院
2026-09-12 08:38:28
港媒曝光雷宇扬遗照与妻儿痛哭画面:公众人物葬礼边界在哪?

港媒曝光雷宇扬遗照与妻儿痛哭画面:公众人物葬礼边界在哪?

草莓解说体育
2026-09-13 11:15:49
韩国史上最贵离婚!《穿越火线》开发商创始人离婚被分走25500亿韩元

韩国史上最贵离婚!《穿越火线》开发商创始人离婚被分走25500亿韩元

东方不败然多多
2026-09-11 19:28:58
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
中美日上半年GDP断崖差距,美国15万亿,日本2.11万亿,中国呢

中美日上半年GDP断崖差距,美国15万亿,日本2.11万亿,中国呢

照亮你的前行之路
2026-09-12 23:23:00
单价便宜97%分数还反超,DeepSeek新模型把GPT-5.6按在地上摩擦

单价便宜97%分数还反超,DeepSeek新模型把GPT-5.6按在地上摩擦

不掉线电波
2026-09-12 13:30:12
支持韦世豪!京媒发声:艾特足协,这对韦世豪不公

支持韦世豪!京媒发声:艾特足协,这对韦世豪不公

建哥说体育
2026-09-13 09:56:45
牛逼  国乒花木兰之一的陈幸同   再次震惊全世界球迷  打出轰动赛事之一

牛逼 国乒花木兰之一的陈幸同 再次震惊全世界球迷 打出轰动赛事之一

顺静自然
2026-09-12 11:01:25
著名央视主持人王小丫现状曝光!人到中年认不出,58岁仍无儿无女

著名央视主持人王小丫现状曝光!人到中年认不出,58岁仍无儿无女

梨花头
2026-09-10 14:04:38
赖清德派人赴南京开会,大陆划红线:台胞证免不了,一切按规矩来

赖清德派人赴南京开会,大陆划红线:台胞证免不了,一切按规矩来

北海史记
2026-09-12 21:03:11
养老院65岁大妈半夜哭喊下身疼,被送往急诊,医生检查后:报警!

养老院65岁大妈半夜哭喊下身疼,被送往急诊,医生检查后:报警!

第四思维
2025-09-02 09:31:36
大尺度聊天记录!一件情趣内衣,五个月的爱情,厂区班长的操控术

大尺度聊天记录!一件情趣内衣,五个月的爱情,厂区班长的操控术

艺鉴在线
2026-09-12 12:50:47
《交锋》马憩太狠了!原来,这就是马憩向魏广进隐瞒情报的原因

《交锋》马憩太狠了!原来,这就是马憩向魏广进隐瞒情报的原因

阿讯说天下
2026-09-13 10:50:44
严子怡受伤轮椅进场终极赛获亚军 北口榛花68米92夺冠刷新日本纪录

严子怡受伤轮椅进场终极赛获亚军 北口榛花68米92夺冠刷新日本纪录

劲爆体坛
2026-09-13 02:15:04
2026-09-13 12:55:00
CSDN incentive-icons
CSDN
成就一亿技术人
26947文章数 242329关注度
往期回顾 全部

科技要闻

三位AI大佬,罕见呼吁AI减速

头条要闻

71岁敬一丹去世 家属向知情人表示:其后事一切从简

头条要闻

71岁敬一丹去世 家属向知情人表示:其后事一切从简

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

主持人敬一丹去世,女儿悲痛发讣告

财经要闻

“1+N+X”!私募业,监管规则密集落地!

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

教育
时尚
亲子
游戏
数码

教育要闻

买1桶油差5元,买2桶油差37元,1桶油多少钱

选来选去还是穿裙子最方便,看看这几款吊带裙,轻盈又舒适

亲子要闻

到底是星期几写的?太逗了

《暗黑破坏神5》宣布2029年春季发售

数码要闻

优派带来VX27G81-2K-9显示器:27" QHD 240Hz Fast IPS

无障碍浏览 进入关怀版