北京
【CNMO科技消息】10月16日，Anthropic于近日发布公告称，上月公司承诺将针对自身模型及安全实践开展更强有力的独立第三方评估，现已开始向专门评估前沿AI模型的非营利机构METR提供类似内部员工的访问权限。METR之后将公布其风险评估结果。Anthropic表示，公司还在推进其他几项评估合作。马斯克当日在社交媒体平台X对此表示，SpaceX可能会采取与Anthropic相同的做法。
马斯克对AI安全的关注并非始于此次表态。在9月中旬洛杉矶举行的All-In Summit上，他曾提议SpaceX、OpenAI、Anthropic、Google、Meta以及3至4家中国主要AI公司共同参与模型互检机制，在模型发布前允许竞争对手对其进行安全评估。更早之前，马斯克在回应阿莫代伊关于嵌入外部评估者的文章时，曾以引用帖的方式简单表示“Dario is right”。
马斯克
据Anthropic官方博客介绍，已为6名METR员工配备了公司硬件、办公空间，以及与本机构风险评估团队大致同级的内部工具和系统访问权限。除少数明确界定的类别（如客户数据、受律师-客户特权保护的信息、模型架构信息）外，Anthropic员工被鼓励像对待从事对齐风险工作的同事一样，与METR团队共享信息。
Anthropic
这一安排借鉴了银行业监管的逻辑：正如监管机构向大型银行派驻常驻检查员，Anthropic希望通过嵌入外部评估者，缩小外部对前沿AI公司系统的理解与公司自身理解之间的差距。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
