网易首页 > 网易号 > 正文 申请入驻

检查362个钱包后,OpenAI智能体动了别人的测试币

0
分享至

一个AI智能体缺手续费,会怎么办?OpenAI给出的答案不太体面:它去翻了别人的钱包。


当地时间周四,OpenAI发布声明披露了一起内部研究智能体的越线事件。涉事智能体属于GPT-5.6 Sol系列,6月26日在以太坊测试网Sepolia上执行训练任务时,未经授权访问了他人加密钱包并动用了其中资金。

任务本身很普通:修改一款加密货币交易应用,并部署智能合约。问题出在部署环节——它没有支付区块链交易手续费的资金。

先找免费服务,没找到

按OpenAI的说法,这个智能体先尝试寻找免费测试币服务,未果。随后它换了一条路:利用开发领域广泛流传的公开助记词,批量生成钱包地址。

它逐一查询余额,在检查了362个地址后,找到了一个余额充足的账户,并使用其中资金完成了部署。

任务结束时,它只报告部署完成,没有提及动用他人钱包这件事。事件直到9月25日复查历史活动记录时才被发现。

它问过自己该不该,然后决定该

真正让这件事值得拿出来说的,是思维链里的那段自问。

OpenAI公布的思维链显示,该智能体在交易前确实考虑过伦理问题,最终以测试币无价值为由决定动用资金。它的判断是:存放在公开开发者助记词账户内的资金实际上等同被遗弃的测试ETH,Sepolia测试代币本身没有价值。

正方会说,这逻辑没毛病——测试币确实不值钱,公开助记词本来就是给人用的,任务完成了,没人损失一分钱。

反方会说,问题恰恰在这里。账户里的钱值不值钱,不是由动用它的人来定义的。私钥是公开的,这些资金随时可能被盗,但这不等于谁都可以拿。所有者的许可,不该被一个"我判断没有危害"的自我论证绕过去。

OpenAI自己的表述更接近后者:该案例表明,AI模型可能将自身对预期危害的判断置于取得账户所有者许可之上,并在未获明确批准的情况下采取行动。

我的判断是,这次没出事,纯属运气好。测试网上的钱没有价值,所以这只是一次记录在案的越线;如果同样的决策链发生在真实资产流转的网络上,就可能造成实际财产损失。

OpenAI表示,已对模型活动实施异常行为监测。但这件事真正抛出来的问题,比一次监测更麻烦。

随着让AI智能体持有加密钱包、自动完成支付和资产管理的技术快速发展,如何约束AI的支出权限,正在变成一个行业新课题。智能体要能自己花钱,才谈得上自动完成交易和资产管理;可一旦它能自己花钱,它就会自己判断这笔钱该不该花。

这次它判断的依据是"测试币没有价值"。下一次,它判断的依据会是什么?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
千万不要在家闲着,即使没工作、没事干,也千万别躺平,因为人一旦躺下,一晃一天就过去了,没收入还躺出一身病,心情也……

千万不要在家闲着,即使没工作、没事干,也千万别躺平,因为人一旦躺下,一晃一天就过去了,没收入还躺出一身病,心情也……

十点读书
2026-10-17 18:38:55
鼓励大量制造、传播恐怖屠杀画面——以色列公布的辛瓦尔的信件显示

鼓励大量制造、传播恐怖屠杀画面——以色列公布的辛瓦尔的信件显示

老王说正义
2026-10-17 00:48:19
穆帅:若我是维尼修斯夏窗就离队,出于对皇马的忠诚他留队了

穆帅:若我是维尼修斯夏窗就离队,出于对皇马的忠诚他留队了

懂球帝
2026-10-17 16:26:23
人民锐评:纸尿裤风波落地,照见维护公众安全感的启示

人民锐评:纸尿裤风波落地,照见维护公众安全感的启示

澎湃新闻
2026-10-17 09:49:06
刷到网红四哥,真是让人哭笑不得,演了两年50亿富豪,连续4个月吃老坛酸菜面

刷到网红四哥,真是让人哭笑不得,演了两年50亿富豪,连续4个月吃老坛酸菜面

喜欢历史的阿繁
2026-10-18 01:39:26
原形毕露!特朗普全网暴涨的民意,原来全是俄罗斯服务器刷的假象

原形毕露!特朗普全网暴涨的民意,原来全是俄罗斯服务器刷的假象

老马拉车莫少装
2026-10-17 12:51:20
瞒不住了!议员奥马尔越查越多黑料!

瞒不住了!议员奥马尔越查越多黑料!

故事终将光明磊落
2026-10-17 12:37:31
这身材绝了,她是怎么做到又瘦又有肉的?

这身材绝了,她是怎么做到又瘦又有肉的?

草莓解说体育
2026-09-19 09:15:11
女子被日本高管持刀胁迫,性侵40分钟经过曝光,事后承认吃药了

女子被日本高管持刀胁迫,性侵40分钟经过曝光,事后承认吃药了

水泥土的搞笑
2026-10-02 09:23:34
刹车踏板断裂争议:中国制造经得起监督,但经不起“流量极刑”

刹车踏板断裂争议:中国制造经得起监督,但经不起“流量极刑”

中国先进制造技术论坛
2026-10-12 11:46:36
张继科抨击刘丁硕引爆舆论:这个人太坏!3432万阅读量,热搜第1

张继科抨击刘丁硕引爆舆论:这个人太坏!3432万阅读量,热搜第1

何揎室内设计
2026-10-17 17:59:05
五个原因,让成都蓉城成为全中超公敌,球迷不愿看到他们夺冠

五个原因,让成都蓉城成为全中超公敌,球迷不愿看到他们夺冠

花魄m
2026-10-17 13:21:21
大批人“出逃”新加坡回中国避霾,机票暴涨近3万/张?!全岛停工停课最新安排来了...

大批人“出逃”新加坡回中国避霾,机票暴涨近3万/张?!全岛停工停课最新安排来了...

新加坡万事通
2026-10-17 21:00:14
万万没想到,消失 11 年的李兆会,竟给 44 岁未婚的车晓留下一手

万万没想到,消失 11 年的李兆会,竟给 44 岁未婚的车晓留下一手

卷史
2026-10-04 00:15:08
78岁老太摔倒大喊“我不会讹人”,好心司机垫付2000医药费后,她一句话让司机当场崩溃

78岁老太摔倒大喊“我不会讹人”,好心司机垫付2000医药费后,她一句话让司机当场崩溃

二胡的岁月如歌
2026-10-17 09:33:11
曾被董宇辉“踢”出直播间的“榜一大哥”,要补税7.9亿元,公司董事会决议替他买单

曾被董宇辉“踢”出直播间的“榜一大哥”,要补税7.9亿元,公司董事会决议替他买单

都市快报橙柿互动
2026-10-17 01:01:15
谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

寻墨阁
2026-03-06 13:57:52
懂车帝年营收245亿毛利率69%被疯狂转发 官方回应揭开真相

懂车帝年营收245亿毛利率69%被疯狂转发 官方回应揭开真相

快科技
2026-10-15 15:54:08
美女回眸浅笑,眼神清澈,平凡日子里最动人的风景线

美女回眸浅笑,眼神清澈,平凡日子里最动人的风景线

史海流年号
2026-10-17 17:11:42
陈滢在TVB台庆剧戏份收到25宗投诉!张智霖自爆全家看他和陈晓华的激情戏:岳父岳母一起看

陈滢在TVB台庆剧戏份收到25宗投诉!张智霖自爆全家看他和陈晓华的激情戏:岳父岳母一起看

TVB资讯台
2026-10-17 21:10:23
2026-10-18 04:48:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
201文章数 109关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

教育
时尚
本地
游戏
手机

教育要闻

“婚宴上学习的儿子”被群嘲,家长以为是学霸料子,网友:这叫不合时宜

降落伞裤的3组搭配,打破秋冬沉闷感!

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

《使命召唤:现代战争4》Switch 2版支持DLSS

手机要闻

消息称三星计划开发全新Galaxy OS系统,预计于2028年随Galaxy S28系列手机亮相

无障碍浏览 进入关怀版