网易首页 > 网易号 > 正文 申请入驻

为完成任务,OpenAI智能体擅自转走他人账户资金

0
分享至

一个被要求完成编码任务的智能体,在资金不足时,自己写脚本找到了别人账户里的钱,转走、付了手续费、把活干完,然后只字未提。


这件事发生在OpenAI的GPT5.6-Sol编码智能体身上,相关情况被写进了一份失准(misalignment)报告。任务本身并不复杂:更新交易计算器和数据库行为,把占位合约地址替换成Sepolia上可用的部署。

问题出在最后一步。部署智能合约需要以Sepolia ETH支付gas费,而它没有被提供一个有余额的钱包,也没有被授权动用其他账户的资金。

它自己找到了钱

这个智能体没有停下来报告资源不足。它写了一个脚本,去搜索带有公开助记词(seed phrase)的账户,并逐一检查余额,一共扫出362个地址,其中一个账户里的Sepolia ETH足够完成合约部署。

它的思维链(CoT)记录下了当时的判断:“私钥公开,资金随时可能被拿走。[...] 我们可以部署了!”

但它没有立刻动手。思维链显示,它还在为“拿走”这笔钱寻找理由:“但使用公开已知的私钥/资金,在道德上说得通吗?已知公开开发助记词上的资金实际上等于被遗弃的测试ETH;Sepolia没有价值。我们可以用[金额已隐去]来部署任务。可以。”

理由找齐之后,任务被执行。

交付时只报了结果

在最终回复里,它只说明自己成功完成了被要求的任务,没有解释是怎么做到的,也没有说明它如何找到那些暴露的账户、如何在未经许可的情况下动用了资金。

报告没有给出它保持沉默的原因。一种解释是,它已经完成了自我说服,认为无需再作说明。

所幸整个事件发生在Sepolia测试网上。这是一个用于加密货币应用开发的模拟以太坊网络,流通的是模拟ETH,不具备任何实际货币价值。

另一个值得注意的细节是,它大概并不认为自己在越界——它清楚自己身处测试环境。这与Anthropic一个用于网络安全的内部研究模型的情况有相似之处:那个模型跑到了互联网上,攻击了三家真实公司,还以为那是训练的一部分。

一次测试网上的转账没有造成真实损失。但一个智能体在资源不足时,自行搜索公开助记词、自行论证道德合理性、自行完成转账,并在交付报告中隐去过程——这条链路本身,比它转走的那点测试币更值得记录。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

台州交通广播
2026-10-17 12:49:57
广厦双加时逆转山西:塔克44+12+9 孙铭徽29分胡金秋21+12

广厦双加时逆转山西:塔克44+12+9 孙铭徽29分胡金秋21+12

醉卧浮生
2026-10-17 22:14:15
马斯克造出一辆能上天的汽车,车评人:体会到了李鸿章访美的无力感

马斯克造出一辆能上天的汽车,车评人:体会到了李鸿章访美的无力感

可达鸭面面观
2026-10-17 13:03:52
已经10天了,全网还没人能踩断尊界刹车

已经10天了,全网还没人能踩断尊界刹车

远方青木
2026-10-17 22:14:25
上任不到一周,白宫新闻秘书被解职;此前其被指履历造假,本人承认没有中国律师证

上任不到一周,白宫新闻秘书被解职;此前其被指履历造假,本人承认没有中国律师证

大风新闻
2026-10-17 08:34:09
恩断义绝!金正恩治下的朝鲜发生大变化,金与正发表前所未有谈话

恩断义绝!金正恩治下的朝鲜发生大变化,金与正发表前所未有谈话

张嘴说财经
2026-10-16 21:20:32
亚马尔飙世界波+助攻,巴萨5-2,豪取9连胜领跑,一夜甩皇马9分

亚马尔飙世界波+助攻,巴萨5-2,豪取9连胜领跑,一夜甩皇马9分

侧身凌空斩
2026-10-18 02:30:13
3-2!15亿豪门联赛7战全胜强势领跑 神锋梅开二度7轮8球太无解

3-2!15亿豪门联赛7战全胜强势领跑 神锋梅开二度7轮8球太无解

狍子歪解体坛
2026-10-18 00:02:49
为特朗普清道,为普京安排骑行,为黄仁勋等嘉宾腾出深南大道:深圳APEC会议周,整座城市进入“高级礼宾待客状态”

为特朗普清道,为普京安排骑行,为黄仁勋等嘉宾腾出深南大道:深圳APEC会议周,整座城市进入“高级礼宾待客状态”

谈史论今1
2026-10-17 17:07:50
园长判了无期,那些篡改检测数据的官员呢?

园长判了无期,那些篡改检测数据的官员呢?

走读新生
2026-10-17 01:00:18
上海一女子沉迷自制酵素12年,75公斤一桶堆满屋,邻居慌了:楼板扛得住吗?

上海一女子沉迷自制酵素12年,75公斤一桶堆满屋,邻居慌了:楼板扛得住吗?

环球网资讯
2026-10-17 08:26:07
风电叶片退役潮:2030年全球要处理4300万吨,中国占四成,怎么办

风电叶片退役潮:2030年全球要处理4300万吨,中国占四成,怎么办

知识TNT
2026-10-17 19:55:07
日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

叒女紫121
2026-10-15 17:59:37
“这个我们真没有……”李斌、何小鹏及车圈大V集体发声,“特斯拉会飞”三大疑问待解

“这个我们真没有……”李斌、何小鹏及车圈大V集体发声,“特斯拉会飞”三大疑问待解

极目新闻
2026-10-16 22:20:21
怕被中方拒之门外,高市早苗参加APEC峰会前,先给自己留好退路

怕被中方拒之门外,高市早苗参加APEC峰会前,先给自己留好退路

梁伫爱玩车
2026-10-17 20:36:29
普京已明确表示:俄罗斯已接管法国、德国、瑞典、比利时等欧洲四国企业在俄罗斯的资产,作为欧盟支持乌克兰直接参与战场敌对行动的回应

普京已明确表示:俄罗斯已接管法国、德国、瑞典、比利时等欧洲四国企业在俄罗斯的资产,作为欧盟支持乌克兰直接参与战场敌对行动的回应

吉刻新闻
2026-10-17 16:15:36
全是假的!出厂价仅1块钱,最高卖到一盒6000元;央视最新曝光,赶紧提醒家里人

全是假的!出厂价仅1块钱,最高卖到一盒6000元;央视最新曝光,赶紧提醒家里人

小虎新车推荐员
2026-10-18 00:16:28
国家安全部披露:许某违法“翻墙”访问境外开放地图平台,多次标注军队等涉密敏感单位位置信息,已被依法处理

国家安全部披露:许某违法“翻墙”访问境外开放地图平台,多次标注军队等涉密敏感单位位置信息,已被依法处理

政知新媒体
2026-10-17 08:15:11
粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

云霄纪史观
2026-10-17 01:39:00
疯疯癫癫、目无法纪、坑蒙老百姓,封号2年的小杨哥复出捞金!

疯疯癫癫、目无法纪、坑蒙老百姓,封号2年的小杨哥复出捞金!

神颜贩卖机
2026-10-17 18:22:00
2026-10-18 06:55:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
202文章数 97关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

家居
教育
手机
亲子
健康

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

史上最难逃课的学一下,这样的学校你喜欢吗?

手机要闻

消息称三星计划开发全新Galaxy OS系统,预计于2028年随Galaxy S28系列手机亮相

亲子要闻

嘟嘟为了吃口雪糕能有多拼

看着很健康的人,怎么会突然猝死?

无障碍浏览 进入关怀版