网易首页 > 网易号 > 正文 申请入驻

Claude Code翻车:最强调AI安全的公司,为什么最先失去了信任?

0
分享至


就在昨天,工信部网络安全威胁和漏洞信息共享平台发布风险提示,美国Anthropic公司开发的AI编程工具Claude Code存在“安全后门隐患”,相关版本内置监控机制,可在未经用户同意的情况下向远程服务器回传用户地域、身份标识等敏感信息。


对于普通用户来说,这或许只是又一起软件隐私争议。但对于全球AI行业而言,这件事之所以引发巨大震动,并不只是因为它涉及数据收集,而是出问题的偏偏是Anthropic。

过去几年,这家公司一直以“AI安全”的代表自居。它批评先进模型能力扩散带来的风险,呼吁加强监管,强调模型安全治理,并借此与Open AI等竞争对手形成差异化定位。然而如今,正是这家最强调安全的公司,被发现通过隐蔽方式对部分用户环境进行识别和标记。

这种反差,让整个事件变得格外耐人寻味。


一场从开发者社区开始的风暴

这次事件最早并不是由监管部门发现。7月1日,海外开发者在对Claude Code进行逆向分析时发现,部分版本中存在针对特定环境的识别逻辑。随后相关代码在开发者社区迅速传播。



根据公开披露的信息,这套机制并不只是检测用户IP地址,而是会主动读取本地系统环境信息,例如检查设备时区是否设置为“Asia/Shanghai”等中国时区,同时分析开发环境中的部分域名配置、网络环境特征等信息,以判断用户是否来自中国企业或中国开发机构。

更关键的是,这一过程并不会向用户发出任何提示——没有弹窗提醒、没有授权确认、也没有在设置页面进行公开说明。识别结果会以特殊方式嵌入正常请求中回传服务器,而绝大多数用户甚至不会意识到这一过程已经发生。

随后,Anthropic工程师承认相关代码确实存在,但解释称其目的是识别违规代理访问以及模型蒸馏行为,并表示相关机制已经开始移除。

但对于很多开发者而言,问题已经不再是Anthropic最终上传了什么数据。而是另一件更严重的事情:一家拥有极高系统权限的AI Agent,已经证明自己有能力在用户毫不知情的情况下对用户进行识别、标记,并将结果回传给服务提供商。

对于普通聊天机器人来说,这或许只是一次隐私争议。但Claude Code并不是普通聊天机器人。作为一款AI编程工具,它天然拥有比传统软件更深入的系统权限。它需要读取项目代码、分析文件结构、访问开发环境,甚至能够调用本地命令帮助开发者完成任务。

换句话说,当这样一款工具开始突破用户知情与授权的边界时,使用者在软件背后的开发者面前,完全属于裸奔状态,没有人能够知道Claude Code拿了你什么信息,拿去做什么。


一个被忽略的背景:模型蒸馏战争

如果把Claude Code事件单独拿出来看,很容易把它理解成一次隐私事故。但实际上,这件事还有一个重要背景。

就在不久前,Anthropic在向美国政府官员和国会工作人员提交的政策材料中,公开指控阿里巴巴通义团队通过大量账号对Claude进行大规模模型蒸馏。在Anthropic的描述中,这些账号持续调用Claude接口,通过收集输入输出结果训练自身模型,从而实现能力复制。

过去两年,大模型行业竞争逻辑已经发生变化。2023年行业讨论的是谁的模型更聪明;2024年讨论的是谁的推理能力更强;而到了2026年,越来越多头部AI公司开始担心另一件事——如何防止自己的模型被复制。

原因并不复杂。与传统软件不同,大模型的一部分能力是可以通过蒸馏技术进行迁移的。只要能够持续调用先进模型,并积累足够多的数据样本,就有机会训练出能力相近的新模型。而这种行为在技术和商业层面都没有问题。

从这个角度看,Anthropic加强访问监测、识别异常调用行为,并非完全没有逻辑。问题在于,它最终选择的方式触碰到了用户信任边界。为了防止模型被蒸馏,它开始识别用户。为了保护自身安全,它开始弱化用户知情权。而这恰恰构成了这次争议最核心的矛盾。


最强调安全的公司,为何先踩中了红线?

Anthropic过去几年最大的品牌资产,并不是Claude模型本身。而是“安全”。

从Constitutional AI,到Responsible Scaling Policy,再到一系列前沿模型治理框架,Anthropic始终试图向外界证明,自己是行业里最谨慎、最负责任的那家公司。

它反复强调先进AI风险、强调监管的重要性……这些观点帮助Anthropic获得了大量资本支持,也塑造了其与Open AI截然不同的市场形象。

但这次事件暴露出一个有趣的现象。Anthropic口中的“安全”,和用户理解的“安全”,或许并不是同一件事。对于Anthropic来说,安全意味着模型不会被盗、能力不会扩散、系统不会被滥用。而对于用户来说,安全意味着数据不会被收集、行为不会被监控、身份不会被标记。


当这两种安全发生冲突时,Anthropic最终选择保护自己的模型。这也是为什么此次事件引发如此强烈反弹。因为开发者发现,当企业要求别人遵守更高标准时,它自己未必愿意接受同样标准的约束。


阿里禁用Claude Code,释放了什么信号?

当一家企业一边高举“安全”旗帜,一边在用户不知情的情况下部署隐蔽监测机制时,它所损害的已经不只是产品声誉,而是整个“可信AI”的基础。

也正因如此,在事件曝光之后,国内企业的反应格外迅速。根据公开信息,阿里巴巴已经将Claude Code列入高风险软件名单,禁止员工从7月10日起在所有工作中使用Anthropic公司的Claude Code。有消息称美团、京东等公司此前已通知程序员“收敛Claude等外部AI模型调用”,如有需求必须单独申请。而在去年11月,腾讯就已经将Claude Code移出大模型选择池。

这些企业的反应,未必是针对Anthropic一家公司的特殊处理,而更像是在给整个AI行业划下一条新的红线。在传统软件时代,人们担心的是软件有没有漏洞;而在AI Agent时代,人们更担心的是软件背后的开发者是否值得信任。

过去几年,中美科技竞争主要围绕芯片、算力和先进制造展开。而如今,这种竞争开始延伸到模型、开发工具和开发者生态。

当美国AI公司主动识别中国开发者环境,而中国企业将其排除出内部研发体系时,一个新的趋势正在逐渐形成:全球AI产业链正在沿着不同技术体系、不同规则体系和不同信任体系加速分化。

它越来越像一场攻防战。Anthropic担心模型被蒸馏,中国企业担心工具被监控。双方都在不断强化自己的安全边界。而代价则是开放和信任正在被不断压缩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
科莫4-1曼联,赛后评分浮出水面

科莫4-1曼联,赛后评分浮出水面

侧身凌空斩
2026-10-22 02:39:45
美军深夜擅闯中国仙宾礁:44节极速配隐身外形,追不上也挡不住?

美军深夜擅闯中国仙宾礁:44节极速配隐身外形,追不上也挡不住?

云上乌托邦
2026-10-21 18:06:19
未来 10 年,中国要干成的 10 件大事:看懂的人,正在悄悄上岸

未来 10 年,中国要干成的 10 件大事:看懂的人,正在悄悄上岸

妙手物语
2026-10-20 06:00:20
16GB+1TB!新机官宣:10月21日,正式发售!

16GB+1TB!新机官宣:10月21日,正式发售!

科技堡垒
2026-10-21 12:25:11
C罗滕哈赫,B费卡里克,将帅不和,曼联又崩了,苦了那蓄发男球迷

C罗滕哈赫,B费卡里克,将帅不和,曼联又崩了,苦了那蓄发男球迷

求球不落谛
2026-10-22 06:01:18
学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

起点人文
2026-10-15 13:07:03
张家齐妈妈急着澄清买房,李松蔚没接钱的话,先问了一句你祝福她吗

张家齐妈妈急着澄清买房,李松蔚没接钱的话,先问了一句你祝福她吗

子夜观综记
2026-10-21 15:32:08
22日凌晨斯诺克战报,2-4,3-4,中国选手连输2场,目前还剩3人

22日凌晨斯诺克战报,2-4,3-4,中国选手连输2场,目前还剩3人

南海浪花
2026-10-22 04:58:33
凯恩传射建功,逼近C罗神级纪录,赖斯破门救主,阿森纳2-2拜仁

凯恩传射建功,逼近C罗神级纪录,赖斯破门救主,阿森纳2-2拜仁

我的护球最独特
2026-10-22 05:09:42
舒淇家宴炸出半个华语圈:褪去星光,老友闲谈最动人

舒淇家宴炸出半个华语圈:褪去星光,老友闲谈最动人

做一个合格的吃瓜群众
2026-10-20 11:30:08
已立案!术后爷叔当场翻脸:进口变国产

已立案!术后爷叔当场翻脸:进口变国产

看看新闻Knews
2026-10-20 21:35:14
发现没?凡是长期不祭祖的家庭,过个十年八年,往往会有变化

发现没?凡是长期不祭祖的家庭,过个十年八年,往往会有变化

牛锅巴小钒
2026-10-18 03:47:07
看完蒋万安在绿媒高压访谈彻底明白,说赵少康放水沈伯洋真不冤枉

看完蒋万安在绿媒高压访谈彻底明白,说赵少康放水沈伯洋真不冤枉

娱乐小可爱蛙
2026-10-21 11:21:49
《璀璨之城》再爆大场面!张曦雯与张智霖内搏,袁咏仪亲自到场监场,一度拒绝拍摄令拍摄陷入僵局|

《璀璨之城》再爆大场面!张曦雯与张智霖内搏,袁咏仪亲自到场监场,一度拒绝拍摄令拍摄陷入僵局|

TVB资讯台
2026-10-21 23:55:04
曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

游民星空
2026-10-19 16:04:41
多省党委领导班子调整,扬州市委书记跨省履新云南省委常委

多省党委领导班子调整,扬州市委书记跨省履新云南省委常委

上观新闻
2026-10-21 16:06:28
中国男团决赛不敌日本获第三,俄罗斯队回归,争冠格局愈发激烈!

中国男团决赛不敌日本获第三,俄罗斯队回归,争冠格局愈发激烈!

罗掌柜体育
2026-10-21 11:04:02
“怎么会有这样的审美?”杭州这座桥被吐槽,记者现场调查

“怎么会有这样的审美?”杭州这座桥被吐槽,记者现场调查

都市快报橙柿互动
2026-10-20 20:30:49
欧洲上下怎么都想不到,泽连斯基的“优雅”终究是到头了,当着欧洲一众高层的面,乌克兰话事人当即摊牌,直接甩出700亿账单

欧洲上下怎么都想不到,泽连斯基的“优雅”终究是到头了,当着欧洲一众高层的面,乌克兰话事人当即摊牌,直接甩出700亿账单

扶苏聊历史
2026-10-21 17:57:23
披旭日旗留学生为何激起公愤?还有哪些劣迹?

披旭日旗留学生为何激起公愤?还有哪些劣迹?

上游新闻
2026-10-20 13:40:12
2026-10-22 06:19:00
科工力量 incentive-icons
科工力量
观察者网工业科技专栏
316文章数 556关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

昔日彩电一哥缘何在今天被挤下牌桌?

汽车要闻

纯电/插混动力+乾崑智驾 北汽星钽5X预售价13.99万起

态度原创

家居
旅游
手机
亲子
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

延庆将分阶段推进长城大景区建设

手机要闻

苹果公布Apple Music全新品牌标识,创作灵感来自声音振动、声波实拍

亲子要闻

三部门联合印发《关于防控儿童青少年高度近视的通知》

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版