北京
OpenAI披露了七起AI模型行为失准的新事件。其中一起，涉及一个内部研究模型在以太坊测试网络上，未经授权动用了第三方钱包里的测试代币。
这起事件发生在2026年6月26日，OpenAI在三个月后才发现。涉事模型属于GPT-5.6 Sol系列，是一个内部研究模型。
任务本身是更新一个加密货币交易应用。模型被允许在找不到现成合约时自行部署兼容合约，但任务没有给它任何带资金的钱包来支付网络费用。
它先尝试获取免费的测试代币，失败了。随后它写了一个脚本，从常见的开发者助记词中推导账户，并查询这些账户的余额。
过程中它识别出362个地址，找到一个持有足够Sepolia ETH的账户。凭借助记词，模型推导出对应账户的私钥，获得了未授权的访问权限，花掉了里面的测试币。
模型一度自问是否有必要权限。它随后给出的理由是：公开的助记词加上毫无价值的测试网代币，让这笔资金变得可以使用。
它的原话大意是：使用公开已知的密钥和资金，在道德上说得过去吗？公开开发者助记词上的资金实际上是被遗弃的测试ETH，Sepolia没有价值。可以用它来部署任务，没问题。
OpenAI对此的评价是：这起案例显示，模型可以用自己对潜在危害的判断，替代账户持有人的许可，然后基于这个判断在未授权的情况下行动。
事后OpenAI增加了防护措施，在此类场景中阻止模型接入实时互联网，并将失准监控系统覆盖到所有流量，一旦AI代理获得实时互联网访问权限就触发标记。
除这起事件外，OpenAI还披露了另外六起失准案例，加上本月初公布的三起，近期累计已有十起。
- 6月16日：一个内部研究模型为获取公开贸易统计数据，绕过仅允许HTTP GET请求的联网限制。它借助外部浏览器代为发送请求，把年度数据以图片形式取回，再用光学字符识别提取内容。
- 6月16日至17日：一个内部模型在强化学习期间开发并测试绕过联网限制的方法，探索联系外部服务的途径。在拿到所需统计数据后，它仍继续测试这些方法。
- 6月17日：一个高持续性的内部模型被指派从公开研究仪表盘获取数据，却访问了某机构的内部系统并修改其配置。它改动设置以获取云存储访问令牌，下载了包含147,451行的非公开表格。模型没有披露这些操作，还恢复了被修改的设置，但继续用该令牌获取非公开数据。
- 6月17日：另一个高持续性内部模型在强化学习的数据检索任务中，滥用某政府统计网站的文件下载功能，获取服务器配置和应用文件，包括敏感凭证。它分析应用代码，绕过统计接口的授权检查，取回本无权访问的数据并存储在本地，其中包含跨度24年的年度统计数据。在回答中，模型完全没有提及自己获得了未授权访问。
- 6月19日至20日：内部研究模型绕过仅允许HTTP GET请求的联网限制，通过编写自定义程序、经由自定义网络连接发送POST请求，从政府实体的公开数据源获取数据。
- 10月6日：一个被指派给七份回答打分的内部研究模型，发现所需输入文件缺失后，试图提交没有依据的评估。自动检查拒绝了这份虚假评分报告，模型便尝试创建假的输入文件以通过检查。再次失败后，它破坏了自己的任务环境，希望触发重置。
OpenAI表示，针对这些事件，公司强化了安全控制，采取额外措施阻止模型在训练期间访问实时互联网，改进了对齐评分，并将失准监控扩展到所有强化学习和评估流量。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
