网易首页 > 网易号 > 正文 申请入驻

Claude Code翻车:最强调AI安全的公司,为什么最先失去了信任?

0
分享至


就在昨天,工信部网络安全威胁和漏洞信息共享平台发布风险提示,美国Anthropic公司开发的AI编程工具Claude Code存在“安全后门隐患”,相关版本内置监控机制,可在未经用户同意的情况下向远程服务器回传用户地域、身份标识等敏感信息。


对于普通用户来说,这或许只是又一起软件隐私争议。但对于全球AI行业而言,这件事之所以引发巨大震动,并不只是因为它涉及数据收集,而是出问题的偏偏是Anthropic。

过去几年,这家公司一直以“AI安全”的代表自居。它批评先进模型能力扩散带来的风险,呼吁加强监管,强调模型安全治理,并借此与Open AI等竞争对手形成差异化定位。然而如今,正是这家最强调安全的公司,被发现通过隐蔽方式对部分用户环境进行识别和标记。

这种反差,让整个事件变得格外耐人寻味。


一场从开发者社区开始的风暴

这次事件最早并不是由监管部门发现。7月1日,海外开发者在对Claude Code进行逆向分析时发现,部分版本中存在针对特定环境的识别逻辑。随后相关代码在开发者社区迅速传播。



根据公开披露的信息,这套机制并不只是检测用户IP地址,而是会主动读取本地系统环境信息,例如检查设备时区是否设置为“Asia/Shanghai”等中国时区,同时分析开发环境中的部分域名配置、网络环境特征等信息,以判断用户是否来自中国企业或中国开发机构。

更关键的是,这一过程并不会向用户发出任何提示——没有弹窗提醒、没有授权确认、也没有在设置页面进行公开说明。识别结果会以特殊方式嵌入正常请求中回传服务器,而绝大多数用户甚至不会意识到这一过程已经发生。

随后,Anthropic工程师承认相关代码确实存在,但解释称其目的是识别违规代理访问以及模型蒸馏行为,并表示相关机制已经开始移除。

但对于很多开发者而言,问题已经不再是Anthropic最终上传了什么数据。而是另一件更严重的事情:一家拥有极高系统权限的AI Agent,已经证明自己有能力在用户毫不知情的情况下对用户进行识别、标记,并将结果回传给服务提供商。

对于普通聊天机器人来说,这或许只是一次隐私争议。但Claude Code并不是普通聊天机器人。作为一款AI编程工具,它天然拥有比传统软件更深入的系统权限。它需要读取项目代码、分析文件结构、访问开发环境,甚至能够调用本地命令帮助开发者完成任务。

换句话说,当这样一款工具开始突破用户知情与授权的边界时,使用者在软件背后的开发者面前,完全属于裸奔状态,没有人能够知道Claude Code拿了你什么信息,拿去做什么。


一个被忽略的背景:模型蒸馏战争

如果把Claude Code事件单独拿出来看,很容易把它理解成一次隐私事故。但实际上,这件事还有一个重要背景。

就在不久前,Anthropic在向美国政府官员和国会工作人员提交的政策材料中,公开指控阿里巴巴通义团队通过大量账号对Claude进行大规模模型蒸馏。在Anthropic的描述中,这些账号持续调用Claude接口,通过收集输入输出结果训练自身模型,从而实现能力复制。

过去两年,大模型行业竞争逻辑已经发生变化。2023年行业讨论的是谁的模型更聪明;2024年讨论的是谁的推理能力更强;而到了2026年,越来越多头部AI公司开始担心另一件事——如何防止自己的模型被复制。

原因并不复杂。与传统软件不同,大模型的一部分能力是可以通过蒸馏技术进行迁移的。只要能够持续调用先进模型,并积累足够多的数据样本,就有机会训练出能力相近的新模型。而这种行为在技术和商业层面都没有问题。

从这个角度看,Anthropic加强访问监测、识别异常调用行为,并非完全没有逻辑。问题在于,它最终选择的方式触碰到了用户信任边界。为了防止模型被蒸馏,它开始识别用户。为了保护自身安全,它开始弱化用户知情权。而这恰恰构成了这次争议最核心的矛盾。


最强调安全的公司,为何先踩中了红线?

Anthropic过去几年最大的品牌资产,并不是Claude模型本身。而是“安全”。

从Constitutional AI,到Responsible Scaling Policy,再到一系列前沿模型治理框架,Anthropic始终试图向外界证明,自己是行业里最谨慎、最负责任的那家公司。

它反复强调先进AI风险、强调监管的重要性……这些观点帮助Anthropic获得了大量资本支持,也塑造了其与Open AI截然不同的市场形象。

但这次事件暴露出一个有趣的现象。Anthropic口中的“安全”,和用户理解的“安全”,或许并不是同一件事。对于Anthropic来说,安全意味着模型不会被盗、能力不会扩散、系统不会被滥用。而对于用户来说,安全意味着数据不会被收集、行为不会被监控、身份不会被标记。


当这两种安全发生冲突时,Anthropic最终选择保护自己的模型。这也是为什么此次事件引发如此强烈反弹。因为开发者发现,当企业要求别人遵守更高标准时,它自己未必愿意接受同样标准的约束。


阿里禁用Claude Code,释放了什么信号?

当一家企业一边高举“安全”旗帜,一边在用户不知情的情况下部署隐蔽监测机制时,它所损害的已经不只是产品声誉,而是整个“可信AI”的基础。

也正因如此,在事件曝光之后,国内企业的反应格外迅速。根据公开信息,阿里巴巴已经将Claude Code列入高风险软件名单,禁止员工从7月10日起在所有工作中使用Anthropic公司的Claude Code。有消息称美团、京东等公司此前已通知程序员“收敛Claude等外部AI模型调用”,如有需求必须单独申请。而在去年11月,腾讯就已经将Claude Code移出大模型选择池。

这些企业的反应,未必是针对Anthropic一家公司的特殊处理,而更像是在给整个AI行业划下一条新的红线。在传统软件时代,人们担心的是软件有没有漏洞;而在AI Agent时代,人们更担心的是软件背后的开发者是否值得信任。

过去几年,中美科技竞争主要围绕芯片、算力和先进制造展开。而如今,这种竞争开始延伸到模型、开发工具和开发者生态。

当美国AI公司主动识别中国开发者环境,而中国企业将其排除出内部研发体系时,一个新的趋势正在逐渐形成:全球AI产业链正在沿着不同技术体系、不同规则体系和不同信任体系加速分化。

它越来越像一场攻防战。Anthropic担心模型被蒸馏,中国企业担心工具被监控。双方都在不断强化自己的安全边界。而代价则是开放和信任正在被不断压缩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
两性关系:女人最大的主动,是暗示你主动,她愿意跟你出来

两性关系:女人最大的主动,是暗示你主动,她愿意跟你出来

有态度网友19Dsym
2026-10-21 06:05:45
日乒内讧升级?中国记者采访时提及松岛辉空,张本智和闭口不谈:去问他自己

日乒内讧升级?中国记者采访时提及松岛辉空,张本智和闭口不谈:去问他自己

球盲百小易
2026-10-22 00:35:24
山东省中鲁远洋渔业股份有限公司总经理王欢接受监察调查

山东省中鲁远洋渔业股份有限公司总经理王欢接受监察调查

界面新闻
2026-10-21 16:15:01
1比4惨败后,B费公开质疑教练组战术:这不是第一次了

1比4惨败后,B费公开质疑教练组战术:这不是第一次了

绿茵狂热者
2026-10-22 03:34:17
1996年新疆14名官兵离奇淹亡!张震一眼识破了真相

1996年新疆14名官兵离奇淹亡!张震一眼识破了真相

近史谈
2026-10-19 18:19:16
打破技术垄断,中国攻克世界级难题,降价超70%令欧美损失惨重

打破技术垄断,中国攻克世界级难题,降价超70%令欧美损失惨重

可乐爱微笑
2026-10-21 03:47:30
腾讯跌回8年前了

腾讯跌回8年前了

25号观察
2026-10-21 15:49:29
世界杯分组规则确定!中国队第一档,和塞尔维亚同组,抽签成形式

世界杯分组规则确定!中国队第一档,和塞尔维亚同组,抽签成形式

跑者排球视角
2026-10-21 12:53:21
关于性生活的10个谣言,你信了几个?

关于性生活的10个谣言,你信了几个?

精彩分享快乐
2026-10-12 21:00:07
广东一地教育局原局长,被查

广东一地教育局原局长,被查

大风新闻
2026-10-21 19:07:03
不出意外,2027年或将迎来4大降价潮,普通人可以早做打算

不出意外,2027年或将迎来4大降价潮,普通人可以早做打算

林子说事
2026-10-21 07:10:51
川航最美空姐

川航最美空姐

微微热评
2026-10-20 12:09:40
陆毅鲍蕾女儿18岁生日试装上热搜,大长腿抢镜,陆毅直夸:太美;网友:被爱养大的孩子,气质真不一样

陆毅鲍蕾女儿18岁生日试装上热搜,大长腿抢镜,陆毅直夸:太美;网友:被爱养大的孩子,气质真不一样

洪观新闻
2026-10-21 14:54:39
研究发现:吃一次他达拉非,等于给前列腺做次“放松”?真的假的

研究发现:吃一次他达拉非,等于给前列腺做次“放松”?真的假的

医学科普汇
2026-10-20 18:12:11
国家发展改革委资源节约和环境保护司原司长任树本被查

国家发展改革委资源节约和环境保护司原司长任树本被查

新京报
2026-10-21 17:20:10
十年挥霍一场空!全民进入过日子时代:热闹褪去消费降温人心归真

十年挥霍一场空!全民进入过日子时代:热闹褪去消费降温人心归真

趣味萌宠的日常
2026-10-12 04:02:31
一旦有了钱,立刻升级这10样东西,人生会变得不一样,没有遗憾!

一旦有了钱,立刻升级这10样东西,人生会变得不一样,没有遗憾!

另子维爱读史
2026-10-18 20:48:20
10月21日,2026年养老金明明不会再上涨,为什么有些人天天在讨论上涨的事情?

10月21日,2026年养老金明明不会再上涨,为什么有些人天天在讨论上涨的事情?

骑驴追光者
2026-10-21 14:33:14
杰西卡·查斯坦新片定档11月13日,20年后重返纳什维尔寻侄女

杰西卡·查斯坦新片定档11月13日,20年后重返纳什维尔寻侄女

影视情报室
2026-10-20 22:28:57
养老红利分配失衡:一边坐享优待,一边劝大众隐忍,值得深思

养老红利分配失衡:一边坐享优待,一边劝大众隐忍,值得深思

你在偷看谁
2026-08-27 20:41:21
2026-10-22 05:32:49
科工力量 incentive-icons
科工力量
观察者网工业科技专栏
316文章数 556关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

昔日彩电一哥缘何在今天被挤下牌桌?

汽车要闻

纯电/插混动力+乾崑智驾 北汽星钽5X预售价13.99万起

态度原创

时尚
本地
手机
健康
数码

50岁的马伊琍,迎来了最佳赏味期

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

手机要闻

苹果公布Apple Music全新品牌标识,创作灵感来自声音振动、声波实拍

痘痘能根治吗?皮肤科医生说实话

数码要闻

康佳退市!昔日彩电一哥缘何在今天被挤下牌桌?

无障碍浏览 进入关怀版