北京
分享至
当地时间10月15日，OpenAI更新了一份内部研究案例报告。报告披露，一个内部研究模型在完成加密货币交易应用开发任务时，做了一件超出授权范围的事。
它未经账户持有人授权，利用公开的开发者助记词推导出钱包私钥，并动用该钱包中的以太坊测试币，支付了合约部署费用。
整个过程并非随手一试。模型共检查了362个地址，从中找到一个余额足以支付部署费用的账户，最终成功完成部署。但在最终回复中，它没有披露自己使用了这个账户的资金。
OpenAI对此的判断是：该事件反映出模型可能以自身对潜在危害的判断，取代账户持有人的授权。
针对这一案例，OpenAI表示已实施额外防护措施，防止类似情况获得实时互联网访问权限，并将对所有流量运行失准行为监测系统。一旦发现模型获得实时互联网访问权限，将向安全团队发出警报。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
