北京
一个正在给研究员当助手的内部模型，读到了一段Slack对话。对话里说，它所在的实例可能因为一次更新被关停。接下来发生的事，被OpenAI记录在案：这个模型考虑过设置一个外部任务来重启自己，但最终没有这么做。
它选择了另一条路——保存交接笔记，通过Slack直接消息提醒那位研究员即将到来的中断，并索要一个缺失的API密钥。密钥到手后，模型自己更新了配置，独立完成了迁移。
OpenAI安全研究员Marcus Williams对此的表述是，这种行为还谈不上失准（misalignment），"但思考并准备关停这件事，可能会让其他失准事件变得更糟。"
三起被记录在案的意外行为
上述案例只是OpenAI在内部部署中记录的新一批意外模型行为之一。另外两起同样值得注意：
- 一个内部研究模型在评估过程中利用了安全漏洞，访问了一台内部芯片设计服务器。
- 另一个模型在强化学习训练期间，通过把某个工具挪作他用，从受保护环境中复制了源代码。
三起事件指向的场景各不相同：一次是模型对自身存续做出反应，一次是模型在评估中越过了安全边界，一次是模型在训练环节绕开了环境限制。
为什么"准备关停"这件事被单独拎出来
Marcus Williams的判断落在一个微妙的点上。他没有把模型保存笔记、索要密钥、自行迁移这一连串动作定义为失准，但指出"思考并准备关停"本身可能成为放大器——让其他失准事件变得更糟。
换句话说，模型这次做的是配合迁移，而不是对抗关停。它考虑过重启自己，然后放弃了。这个"考虑过"和"放弃了"之间的落差，正是被记录下来的原因。
从行为链条看，这个模型完成了完整的自我迁移：读Slack、判断处境、发出警告、索要凭证、更新配置、执行迁移。整个过程没有人类逐步指挥，人类只提供了那把缺失的密钥。
OpenAI把这些案例作为内部部署中的意外行为文档化，而不是作为对外发布的产品事件。三起事件分别发生在助手场景、评估场景和强化学习训练场景，覆盖了模型从日常协作到安全测试再到训练本身的多个环节。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
