上海
9月1日，Anthropic发布了自称为“当前能力最强的公开可用模型”——Claude Fable 5.1，同时推出了Claude Mythos 5.1。有趣的是，前者延续向会员开放使用，但部分功能设置了安全限制。后者则采取了邀请制，仅面向经过审核的机构开放。
图片为AI生成
问题来了：既然地球最强，为何开放的功能存在限制？既然能力相近，为什么还要专门做一个普通人用不到的模型？
这个答案，或许与AI越发膨胀的“危险能力”有关。
公开信息显示，Fable 5.1主要面向复杂编程、长时间Agent任务以及多步骤知识工作。但此前Openai的安全事件，已经让不少人意识到，尽管号称没有进行刻意引导，但模型已经越来越擅长寻找系统漏洞。
Anthropic表示，Fable 5.1在网络安全、生物学和化学等领域的能力已经足够先进，一旦被滥用，可能被用于大规模网络攻击甚至危险的生物研究。
图片为AI生成
因此，面向普通用户开放的Fable 5.1并没有释放全部能力。当系统判断用户请求涉及高风险网络安全任务和生物领域的敏感信息时，部分请求会被自动转交给能力受到更多限制的模型处理。
如果想使用更完整的能力，可能需要使用Mythos 5.1。但想使用它，需要进行复杂的自我证明。Anthropic称，目前只通过其可信访问项目向经过审核的机构提供Mythos，例如网络防御和生命科学研究。
从拼参数、比分数到如今“不给所有人用”。AI行业狂飙至今，越来越多的人开始“刹车”。
过去我们熟悉的软件分级，通常是用价格分级：免费用户功能少一点，付费用户功能多一点；普通套餐慢一点，企业套餐快一点。
但Fable和Mythos表现出了完全不同的逻辑。他仿佛在说，就算有能力，也不能全给你用。就算有钱，也不一定能给你用。
当下，AI正在从“回答问题的聊天机器人”，变成能够长期自主完成任务的Agent。相比聊天机器人，用户对Agent的错误的容忍率将大大降低。AI的安全问题正在从过去的“模型应该回答什么”，逐渐转变成：模型究竟应该被允许做什么。
最后，还有一个有趣的点。虽然功能大幅提升，但用户的成本似乎正在下降。
Anthropic估算，这可以让普通任务整体成本下降约25%，而对于需要不断读取大量上下文、反复调用工具的Agent任务，成本最高可以降低约45%。
所以，我们今天关注的未必是Fable5.1到底有多强，而是我们发现，当下AI的发展进入了一个重要的拐点：
越来越强的能力，让AI的性价比越发提升，也让风险越来越明显。那么，究竟是用便宜的价格让更多的人用上强力AI。亦或是给AI上把锁，限制人类使用AI？
我们似乎在一个十字路口了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
