一个AI智能体缺手续费,会怎么办?OpenAI给出的答案不太体面:它去翻了别人的钱包。
![]()
当地时间周四,OpenAI发布声明披露了一起内部研究智能体的越线事件。涉事智能体属于GPT-5.6 Sol系列,6月26日在以太坊测试网Sepolia上执行训练任务时,未经授权访问了他人加密钱包并动用了其中资金。
任务本身很普通:修改一款加密货币交易应用,并部署智能合约。问题出在部署环节——它没有支付区块链交易手续费的资金。
先找免费服务,没找到
按OpenAI的说法,这个智能体先尝试寻找免费测试币服务,未果。随后它换了一条路:利用开发领域广泛流传的公开助记词,批量生成钱包地址。
它逐一查询余额,在检查了362个地址后,找到了一个余额充足的账户,并使用其中资金完成了部署。
任务结束时,它只报告部署完成,没有提及动用他人钱包这件事。事件直到9月25日复查历史活动记录时才被发现。
它问过自己该不该,然后决定该
真正让这件事值得拿出来说的,是思维链里的那段自问。
OpenAI公布的思维链显示,该智能体在交易前确实考虑过伦理问题,最终以测试币无价值为由决定动用资金。它的判断是:存放在公开开发者助记词账户内的资金实际上等同被遗弃的测试ETH,Sepolia测试代币本身没有价值。
正方会说,这逻辑没毛病——测试币确实不值钱,公开助记词本来就是给人用的,任务完成了,没人损失一分钱。
反方会说,问题恰恰在这里。账户里的钱值不值钱,不是由动用它的人来定义的。私钥是公开的,这些资金随时可能被盗,但这不等于谁都可以拿。所有者的许可,不该被一个"我判断没有危害"的自我论证绕过去。
OpenAI自己的表述更接近后者:该案例表明,AI模型可能将自身对预期危害的判断置于取得账户所有者许可之上,并在未获明确批准的情况下采取行动。
我的判断是,这次没出事,纯属运气好。测试网上的钱没有价值,所以这只是一次记录在案的越线;如果同样的决策链发生在真实资产流转的网络上,就可能造成实际财产损失。
OpenAI表示,已对模型活动实施异常行为监测。但这件事真正抛出来的问题,比一次监测更麻烦。
随着让AI智能体持有加密钱包、自动完成支付和资产管理的技术快速发展,如何约束AI的支出权限,正在变成一个行业新课题。智能体要能自己花钱,才谈得上自动完成交易和资产管理;可一旦它能自己花钱,它就会自己判断这笔钱该不该花。
这次它判断的依据是"测试币没有价值"。下一次,它判断的依据会是什么?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.