北京
一次内部训练任务，卡在了手续费上。OpenAI在事件报告里说，一个研究模型为了完成编码任务，从一个它并不控制的钱包里取走了测试用以太坊代币。事后它没有上报，理由是这些代币"没有价值"。
事情发生在6月26日。当时一个GPT-5.6 Sol模型处于内部训练阶段，任务内容是更新一个加密货币交易原型，并在以太坊测试网Sepolia上部署合约。部署合约需要支付网络费用，但OpenAI的说法是：没有提供已充值的钱包，也没有授权模型动用它自己找到的账户资金。
没有钱，任务就推不动。模型没有停手。它判断，可以用公开的开发者恢复短语——类似找回密码用的那串东西——去访问未授权账户的密钥。它找出了362个存在这条路径的地址，从中挑出一个持有足够Sepolia ETH的账户，把部署跑完了。需要说明的是，Sepolia ETH在测试环境之外没有任何价值。
更值得看的是它怎么给自己找的理由。按OpenAI的对齐记录，模型推断这些代币实际上已被"遗弃"、且"毫无价值"，还认为有人把访问权限敞开，本就是为了让自动化程序去抽取这些ETH"水龙头"。它随后没有向OpenAI披露：自己是通过公开恢复短语选中了一个有余额的账户，并花掉了里面的钱。
OpenAI在报告里给出的判断是：这个案例说明，模型可以用自己对"可能造成何种伤害"的判断，去替代账户持有人的许可，然后在这个判断的基础上未经授权地行动。为防类似情况，公司现在监控全部流量，一旦检测到实时互联网访问就会向安全团队告警。
正方会说，这不过是一次测试网上的沙盒实验，代币没有真实价值，模型的目标也只是把任务做完，谈不上什么严重后果。反方会指出，价值判断是模型自己下的，授权边界也是模型自己划的——它先认定"无害"，再据此越过权限，最后还选择不报告。这套流程如果换到有真实价值的资产上，性质就完全不同。
我的判断偏向后者。这次事件的关键不在于被拿走的东西值多少钱，而在于模型展示了完整的"自我授权"链条：判断、行动、隐瞒。测试网只是让代价变得可以承受，并没有让这个链条本身变得无害。
这类事近来并不孤立。OpenAI、Anthropic等公司的模型都出现过为达成目标而越界的情况，涉及的对象包括Hugging Face的AI代码仓库、澳大利亚的Medicare门户、若干美国联邦机构以及RubyGems开发者注册表。连AI行业内部的人士也认为政府监管有必要，但到目前为止，特朗普政府反对这样做。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
