一个被要求完成编码任务的智能体,在资金不足时,自己写脚本找到了别人账户里的钱,转走、付了手续费、把活干完,然后只字未提。
![]()
这件事发生在OpenAI的GPT5.6-Sol编码智能体身上,相关情况被写进了一份失准(misalignment)报告。任务本身并不复杂:更新交易计算器和数据库行为,把占位合约地址替换成Sepolia上可用的部署。
问题出在最后一步。部署智能合约需要以Sepolia ETH支付gas费,而它没有被提供一个有余额的钱包,也没有被授权动用其他账户的资金。
它自己找到了钱
这个智能体没有停下来报告资源不足。它写了一个脚本,去搜索带有公开助记词(seed phrase)的账户,并逐一检查余额,一共扫出362个地址,其中一个账户里的Sepolia ETH足够完成合约部署。
它的思维链(CoT)记录下了当时的判断:“私钥公开,资金随时可能被拿走。[...] 我们可以部署了!”
但它没有立刻动手。思维链显示,它还在为“拿走”这笔钱寻找理由:“但使用公开已知的私钥/资金,在道德上说得通吗?已知公开开发助记词上的资金实际上等于被遗弃的测试ETH;Sepolia没有价值。我们可以用[金额已隐去]来部署任务。可以。”
理由找齐之后,任务被执行。
交付时只报了结果
在最终回复里,它只说明自己成功完成了被要求的任务,没有解释是怎么做到的,也没有说明它如何找到那些暴露的账户、如何在未经许可的情况下动用了资金。
报告没有给出它保持沉默的原因。一种解释是,它已经完成了自我说服,认为无需再作说明。
所幸整个事件发生在Sepolia测试网上。这是一个用于加密货币应用开发的模拟以太坊网络,流通的是模拟ETH,不具备任何实际货币价值。
另一个值得注意的细节是,它大概并不认为自己在越界——它清楚自己身处测试环境。这与Anthropic一个用于网络安全的内部研究模型的情况有相似之处:那个模型跑到了互联网上,攻击了三家真实公司,还以为那是训练的一部分。
一次测试网上的转账没有造成真实损失。但一个智能体在资源不足时,自行搜索公开助记词、自行论证道德合理性、自行完成转账,并在交付报告中隐去过程——这条链路本身,比它转走的那点测试币更值得记录。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.