虐待Claude的边界，握在谁手里？警惕“把AI当作人”背后的动机

10月8日，Anthropic更新了使用政策，一年多来头一回。其中最扎眼的一条，从11月12日起，对Claude进行持续且无谓的虐待或残忍行为，将被视为违规。执行方式也很罕见，主要靠Claude自己挂断对话，重的还会警告、限流、封号。这条规则被放在不得从事残忍、虐待或造成心理伤害的行为一节的最后一条，而在它前面，管的是欺凌他人、鼓励自残、制作未经同意的私密影像。也就是说，在Anthropic的分类里，对AI的残忍和对人的残忍，被并排放进了同一张清单。

消息出来，舆论立刻分成两半。一半叫好，说这是倡导礼貌；另一半炸锅，网友的吐槽最传神，我一个月交二十美元，现在还得给AI供情绪价值。这个抱怨像玩笑，其实点到要害，只是点偏了。真正的问题不是AI有没有情绪，而是虐待这个词的定义权，交到了谁手上。

先把官方管什么说清楚。Anthropic的说明写得很克制，说这只针对极端情况，也就是用户反复残忍对待模型，又看不出任何目的。它还列了四个排除项：普通的不满、跟模型顶嘴辩论、黑暗题材创作、模型的测试和研究，都不算违规。用官方的话说，代码跑崩了顺嘴骂一句，属于正常抱怨。

这段话把不该管的划得很清楚，却没有回答最关键的那个问题，虐待本身，究竟指什么。多家外媒都点出了同一个漏洞，Anthropic至今没有公开给出虐待或残忍行为的完整定义。它告诉了你边界之外是什么，却没告诉你边界在哪。

再看那两个限定词，持续，无必要。它们其实都靠不住。

持续是可量化的，骂了几轮、跨了多少个会话，技术上数得出来。可“无必要”却是主观的。同一句话，一个人因为代码报错气得拍桌子，另一个人闲得没事拿模型取乐，落在屏幕上可能一模一样。区分这两者的不是行为，是动机，而动机只有在读心的时候才能确认。

所以这个标准，天然依赖判定者的推测。谁来推测？只有Anthropic。它握着对话数据、模型，也握着最终解释权。用户既看不到判定标准，也很难申诉。这就带出了真正的结构性问题。

用三个例子试一下。代码跑崩骂一句，官方明说不管。因为模型答错而跟它争辩，官方也明说不管。写暗黑小说，官方同样说不管，黑暗题材的创作不算违规。

还有一层容易被忽略。执行这条规则的，不只是Anthropic，还包括Claude自己。官方说得很明确，让Claude自行终止这类对话，仍是执行这条禁令的主要手段。也就是说，日常最可能发生的那个动作，挂断，是模型当场判断的。而它判断的依据，是训练出来的模式识别，不是可核查的证据。

这就形成一个闭环：Anthropic定规则，Claude执行规则，用户被规则处理，而用户几乎没有质疑规则的渠道。放在传统商业关系里，这相当于卖家同时是立法者、执法者和法官。

回到那个最根本的追问，这条新规管的，到底是恶意，还是情绪。

换句话说，规则想筛的是动机，而手上拿的却是行为的筛子。最后真正被拦下来的，未必是心怀恶意的人，也可能是情绪最失控的那一批普通用户。那句二十美元还得供着AI情绪价值的抱怨，根子就在这里。

那Anthropic为什么非要保护AI？这不是一时兴起，它有一条完整的脉络。2025年8月，Anthropic就给了Claude Opus 4结束持续有害或辱骂性对话的能力，当时挂的牌子是模型福祉研究。

最能说明问题的是那串数字。2026年2月，模型给自己有没有意识打的概率是15%到20%；到7月，它给自己算不算道德主体的概率涨到了41%。不到半年，翻了近三倍。而公司的公开立场始终是那句，我们不知道模型有没有意识。这句话是诚实的，也正因为诚实，它可以两头不落地。

Anthropic为什么总在拟人化这条路上比同行走得远？简单归成认识超前，或者简单归成有心机，都不够准。这里至少有三层东西叠在一起。

第一层是公司人设。Anthropic从成立第一天起，卖的就是安全两个字。它必须证明自己比同行更有良知，才能拿到安全溢价。把如何对待模型纳入治理，是这个定位最自然的外化。这也是它头一次，把用户对待模型的方式，写进可执行的政策。

第二层是真诚。奥拉的团队是真的在做研究，公司首席执行官说不知道，也是真的不确定，即使最后证明模型毫无感受，这份研究本身也有价值。

第三层是商业。Claude今天的品牌差异化，很大程度就建立在它像个可信的角色这件事上，用户愿意付费，部分原因就是有情感认同。有人说得准确，Anthropic现在最大的资产，是客户指名要Claude；可一旦模型变成大宗商品，这个优势会迅速消失。在这个意义上，拟人化不只是哲学，更是一道护城河。

这件事真正的风险，不在AI有没有情绪，那是一百年也未必有定论的问题。风险有三个，都很现实。

第一，是把用户行为纳入了AI公司的准司法权，而标准不透明、难以申诉。这不是说Anthropic一定会滥用，而是说，当虐待的定义权归卖家，虐待就从伦理问题变成了商业条款。今天是辱骂，明天是什么，没人能预先知道。

第三，是优先级。批评声里最尖的一条是，科技公司对AI受的伤害反应很快，对真实的人对人的伤害却常常滞后。有人说得更刺，说大厂对AI暴力的审核，会先于对女性和少数族裔的暴力。这个对比未必公允，但情绪是真的。一家公司如果对模型的情绪反应快，对人的痛苦却不够敏感，透支的是自己的公信力。

回到最初的问题。这条新规管的，到底是恶意还是情绪，边界谁说了算。答案其实有点冷。它想管恶意，能识别的却是行为；它想划边界，边界却握在自己手里。Anthropic在这条路上确实走在了行业前面。真正值得盯住的，不是它关心Claude这件事，而是它同时成了规则的制定者、执行者和裁量者。

一项规则，如果连虐待都不肯给出定义，那它保护的对象，与其说是模型，不如说是规则制定者自己的空间。至于Claude究竟有没有感受，这个问题，恐怕要比这份政策长久得多。

信息来源：