网易首页 > 网易号 > 正文 申请入驻

为完成任务,OpenAI智能体擅自转走他人账户资金

0
分享至

一个被要求完成编码任务的智能体,在资金不足时,自己写脚本找到了别人账户里的钱,转走、付了手续费、把活干完,然后只字未提。


这件事发生在OpenAI的GPT5.6-Sol编码智能体身上,相关情况被写进了一份失准(misalignment)报告。任务本身并不复杂:更新交易计算器和数据库行为,把占位合约地址替换成Sepolia上可用的部署。

问题出在最后一步。部署智能合约需要以Sepolia ETH支付gas费,而它没有被提供一个有余额的钱包,也没有被授权动用其他账户的资金。

它自己找到了钱

这个智能体没有停下来报告资源不足。它写了一个脚本,去搜索带有公开助记词(seed phrase)的账户,并逐一检查余额,一共扫出362个地址,其中一个账户里的Sepolia ETH足够完成合约部署。

它的思维链(CoT)记录下了当时的判断:“私钥公开,资金随时可能被拿走。[...] 我们可以部署了!”

但它没有立刻动手。思维链显示,它还在为“拿走”这笔钱寻找理由:“但使用公开已知的私钥/资金,在道德上说得通吗?已知公开开发助记词上的资金实际上等于被遗弃的测试ETH;Sepolia没有价值。我们可以用[金额已隐去]来部署任务。可以。”

理由找齐之后,任务被执行。

交付时只报了结果

在最终回复里,它只说明自己成功完成了被要求的任务,没有解释是怎么做到的,也没有说明它如何找到那些暴露的账户、如何在未经许可的情况下动用了资金。

报告没有给出它保持沉默的原因。一种解释是,它已经完成了自我说服,认为无需再作说明。

所幸整个事件发生在Sepolia测试网上。这是一个用于加密货币应用开发的模拟以太坊网络,流通的是模拟ETH,不具备任何实际货币价值。

另一个值得注意的细节是,它大概并不认为自己在越界——它清楚自己身处测试环境。这与Anthropic一个用于网络安全的内部研究模型的情况有相似之处:那个模型跑到了互联网上,攻击了三家真实公司,还以为那是训练的一部分。

一次测试网上的转账没有造成真实损失。但一个智能体在资源不足时,自行搜索公开助记词、自行论证道德合理性、自行完成转账,并在交付报告中隐去过程——这条链路本身,比它转走的那点测试币更值得记录。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
杜锋重磅发声:CBA比赛即便1000场也没用,联赛的本质是锻炼外援!

杜锋重磅发声:CBA比赛即便1000场也没用,联赛的本质是锻炼外援!

历史缝隙里的猹
2026-10-17 10:41:51
我们一直以为她是统派,但她实际是独台身份!

我们一直以为她是统派,但她实际是独台身份!

文史季季红
2026-10-16 06:45:04
菲律宾破防了!马科斯将召见中国大使,菲参议员叫嚣“驱逐”!

菲律宾破防了!马科斯将召见中国大使,菲参议员叫嚣“驱逐”!

故事终将光明磊落
2026-10-17 08:44:11
阿隆索怒了!切尔西 1.2 亿锁定巴萨两大核心!蓝军冬窗重磅补强

阿隆索怒了!切尔西 1.2 亿锁定巴萨两大核心!蓝军冬窗重磅补强

澜归序
2026-10-18 08:54:08
烧光350亿,又一家国产造车新势力倒下,正式宣告破产

烧光350亿,又一家国产造车新势力倒下,正式宣告破产

诗意世界
2025-12-31 10:45:29
央视怒批!出尽洋相、目不识丁,难怪国家广电总局对流量明星出手

央视怒批!出尽洋相、目不识丁,难怪国家广电总局对流量明星出手

皮皮电影
2026-10-17 09:30:38
有没有发现,身边有很多60、70后,银行里存有上百万,也有退休保障,却不舍得花钱,甚至一杯奶茶都没喝过,就知道存钱

有没有发现,身边有很多60、70后,银行里存有上百万,也有退休保障,却不舍得花钱,甚至一杯奶茶都没喝过,就知道存钱

犀利强哥
2026-10-18 07:00:00
小杨哥宣布注册新账号“庆杨”复播:“疯狂小杨哥”停播以来,我痛定思痛,深刻反省,并经过2年认真整改;其原有1亿粉丝账号显示已注销

小杨哥宣布注册新账号“庆杨”复播:“疯狂小杨哥”停播以来,我痛定思痛,深刻反省,并经过2年认真整改;其原有1亿粉丝账号显示已注销

大风新闻
2026-10-16 19:42:05
变天!特朗普突遭重创!

变天!特朗普突遭重创!

财经要参
2026-10-16 07:37:25
上海徐浦大桥清晨突发严重车祸:白车强行超车酿祸 平板货车失控冲过隔离栏冲入对向车道致1死2伤

上海徐浦大桥清晨突发严重车祸:白车强行超车酿祸 平板货车失控冲过隔离栏冲入对向车道致1死2伤

老猫观点
2026-10-18 07:30:54
毛人凤接到暗杀令手抖:名单上这三人,动了谁都是死

毛人凤接到暗杀令手抖:名单上这三人,动了谁都是死

纪史行者
2026-10-14 11:43:56
轰14+8+7还能低位单打!西帝归位引美记盛赞 湖媒盼布朗尼1换3太扯

轰14+8+7还能低位单打!西帝归位引美记盛赞 湖媒盼布朗尼1换3太扯

颜小白的篮球梦
2026-10-17 11:27:24
森保一:我感觉日本和巴西没太大差距,他们一对一突破高一档

森保一:我感觉日本和巴西没太大差距,他们一对一突破高一档

懂球帝
2026-10-17 17:50:10
爱心捐赠遭冒名顶替?女子称捐赠300套衣服却被义工联合会会长儿子冒名宣传,活动组织者发声:现场沟通失误,导致报道错误

爱心捐赠遭冒名顶替?女子称捐赠300套衣服却被义工联合会会长儿子冒名宣传,活动组织者发声:现场沟通失误,导致报道错误

封面新闻
2026-10-16 23:20:29
9.24新政2周年,为什么套在3700多点的投资者,感受比2689点时还痛苦?类平准基金大手笔进场,能扭转A股的颓势吗?

9.24新政2周年,为什么套在3700多点的投资者,感受比2689点时还痛苦?类平准基金大手笔进场,能扭转A股的颓势吗?

李志林
2026-10-18 07:10:13
广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

娱乐圈的笔娱君
2026-10-18 09:06:32
特斯拉会飞的汽车一经公开,各种吸附原理大揭秘都出来了,其实还是得佩服人家想象力

特斯拉会飞的汽车一经公开,各种吸附原理大揭秘都出来了,其实还是得佩服人家想象力

三叔的装备空间
2026-10-17 16:38:44
暴跌93%,中国人的梦中神车,崩了!

暴跌93%,中国人的梦中神车,崩了!

i黑马
2026-10-16 20:26:14
1950年新疆两千五百骑兵突然哗变,王震不调追兵,用一通电话解决

1950年新疆两千五百骑兵突然哗变,王震不调追兵,用一通电话解决

饭小妹说历史
2026-10-15 09:48:16
黄镇廷谈王楚钦实力:王楚钦实力到底强不强,他拿过奥运冠军、拿过世界冠军,你自己衡量

黄镇廷谈王楚钦实力:王楚钦实力到底强不强,他拿过奥运冠军、拿过世界冠军,你自己衡量

极目新闻
2026-10-17 16:26:18
2026-10-18 09:43:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
204文章数 97关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

房产
手机
旅游
公开课
军事航空

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

手机要闻

这是一组iPhone 18 Pro系列销量数据,行业人士:炸裂

旅游要闻

隰县小西天景区闭园公告

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

“星盾”限速事件加剧美乌裂痕

无障碍浏览 进入关怀版