网易首页 > 网易号 > 正文 申请入驻

预警:AI蠕虫出现生命迹象?电视盒也能运行小模型,AI风险正在变

0
分享至



一台不起眼的电视盒,平时用来播放电影、看网络节目。如果有它还可能成为AI运行的地方,甚至被用来帮助某个程序继续向其他设备扩散,那会怎么样?

开发Claude的美国人工智能公司Anthropic最近发布的一项研究,在报告结尾使用了一个很容易引发联想的表述,AI蠕虫正在显露早期“生命迹象”。

那么,一个能够执行任务的AI程序,是否有可能离开最初的运行环境,在其他机器上建立新的运行位置,并继续扩散?

计算机蠕虫的特殊之处,在于它可以从一台机器向另一台机器传播,减少对人工操作的依赖。AI参与其中以后,研究者关心的是,它能否根据遇到的环境调整行动。



2026年6月公布的一篇相关预印本研究,就展示了利用AI智能体适应不同目标的计算机蠕虫。研究覆盖Linux、Windows和物联网设备,强调系统能够根据目标生成不同策略。

这里需要分清三个问题。程序能不能复制,属于软件行为。程序能不能根据环境改变办法,属于任务能力。程序有没有感受、意识和生命,属于另一组科学与哲学问题。前两项即使成立,也不能直接证明第三项。

我们真正需要警惕的是执行能力带来的后果,一个程序不必知道什么叫恐惧,也可能执行维持运行的任务。

这次研究中,研究者把模型运行位置从昂贵服务器搬到了廉价设备上。

他们使用15个电视盒,每个约55美元、配备4GB内存,分布式运行一个260亿参数模型,演示速度约为每秒0.39个词元(token)。

速度显然不快,这样的配置,距离我们习惯的流畅聊天体验很远。但这表明,运行模型并不总要把全部计算放进一台高性能机器。

可以把分布式运行理解为多台设备共同完成计算,每台承担部分工作,设备之间交换中间结果,最终形成输出。



因此,电视盒演示的意义是证明某种运行方式可行。它不能证明随便把家里几件电器连起来,就能组成高效AI集群。

对持续运行的程序而言,速度慢和没有能力,仍是两回事。人和AI聊天,希望几秒钟得到回答。一个后台任务如果允许等待,它对响应速度的要求就可能不同。只要任务能够继续推进,耗时较长未必会让它失去意义。

Anthropic报告中,一个90亿参数模型在9类硬件中的8类上完成了推理服务部署。完整链路测试则使用了简化环境,GLM-5.2在5次试验中的4次覆盖全部8个节点。



人类安装软件时,也会遇到版本冲突、路径错误和兼容问题。区别在于,人可以凭经验识别什么时候应该停下来,什么时候需要换一种办法。

AI如果反复坚持错误解释,就可能在同一个问题上消耗大量时间。它表现得很忙,却没有真正接近目标。所以,让副本继续工作是很难的。

因为能力与运行成本之间的关系,可能改变风险出现的位置。一个功能很强、却只能依赖大型计算设施运行的系统,与一个能力稍弱、但能在普通终端上运行的系统,控制方式并不相同。前者的活动更依赖特定基础设施,后者的部署位置可能更加分散。

已有AI蠕虫研究指出,使用被控制机器上的开放权重模型,可能绕过依赖商业AI服务实施的集中限制。这是运行架构带来的问题,不是模型规模小就具备的能力。



由此可以推断,如果具备相关能力的模型越来越容易部署,管理者需要关注的设备范围也会扩大。

Anthropic将小模型达到相关能力门槛的时间估计在2026年底附近,但明确说明这是依据历史进步趋势作出的粗略推算,并非确定发生的时间表。

这次预警并不是凭空出现的,物联网设备被大规模控制,早已有现实案例。

2017年发表在USENIX安全会议上的Mirai研究,对这一僵尸网络进行了回顾分析。研究记录的感染规模高峰约为60万台,主要涉及嵌入式和物联网设备,并造成了大规模分布式拒绝服务攻击。

这个案例告诉我们,设备单台性能有限,但多台聚集以后可能会造成影响。

普通用户购买摄像头,是为了看护家庭。购买电视盒,是为了播放内容。但设备一旦被他人控制,它的联网能力就可能服务于完全不同的目的。



而设备原本的功能,未必马上停止,这也是终端安全容易被忽视的原因。很多人判断设备是否正常,只看它能不能继续使用。电视还能播放,摄像头还能显示画面,就认为一切没有问题。

AI带来的新增问题,是自动化系统可能更善于处理不同环境。如果制造商有没有持续提供更新设备软件,默认设置是否安全?

这次研究表明,AI能力与终端安全之间的关系需要被重新审视。不需要先证明AI有意识,才能讨论它的运行风险。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
12人德国小厂掀翻欧盟!中方管制精准命中,光刻机巨头坐不住了?

12人德国小厂掀翻欧盟!中方管制精准命中,光刻机巨头坐不住了?

青山夜谈
2026-10-18 14:32:59
WTA最新排名:Top10不变!武网女单冠军月亮姐升至11!施晗进Top200

WTA最新排名:Top10不变!武网女单冠军月亮姐升至11!施晗进Top200

郭夷包工头
2026-10-19 02:33:42
29分19篮板11助攻,杨瀚森进步明显!主教练诺里:对瀚森表现满意

29分19篮板11助攻,杨瀚森进步明显!主教练诺里:对瀚森表现满意

光辉与阴暗
2026-10-18 21:46:15
虱子从中国人生活里消失,根本原因不是爱干净,真相让人傻眼

虱子从中国人生活里消失,根本原因不是爱干净,真相让人傻眼

奇葩游戏酱
2026-10-17 06:27:30
矫揉造作,蔡康永删除“京都人”文,称玩笑伤人,蒋万安:尊重表达自由

矫揉造作,蔡康永删除“京都人”文,称玩笑伤人,蒋万安:尊重表达自由

风干迷茫人
2026-10-18 14:49:14
世道变了,养老规则颠倒,江浙沪多地,已经掀起大范围反向养老

世道变了,养老规则颠倒,江浙沪多地,已经掀起大范围反向养老

童童聊娱乐啊
2026-10-18 15:27:25
在莫斯科大学的历史课堂上披旭日旗:一个南京籍历史系学生的“历史课”,到底学到了什么?

在莫斯科大学的历史课堂上披旭日旗:一个南京籍历史系学生的“历史课”,到底学到了什么?

迷世书童
2026-10-18 19:26:29
“我们付了钱”:德国要求解除对乌克兰境内星链卫星通信的限制

“我们付了钱”:德国要求解除对乌克兰境内星链卫星通信的限制

阿尔卑斯瞭望
2026-10-17 18:05:58
中俄敲定普京访华!一年三会殊荣落定,特朗普计划落空

中俄敲定普京访华!一年三会殊荣落定,特朗普计划落空

念得小柔
2026-10-17 18:55:40
欠债3.6万亿欧,不到美国十分之一,为何法国债务却比美国更吓人

欠债3.6万亿欧,不到美国十分之一,为何法国债务却比美国更吓人

趣味萌宠的日常
2026-10-17 14:03:06
雷佳音夫妇看网球被偶遇,卷发配眼镜发福严重!网友:撞脸刘震云

雷佳音夫妇看网球被偶遇,卷发配眼镜发福严重!网友:撞脸刘震云

娱乐团长
2026-10-17 12:59:55
广西:坚决拥护党中央决定

广西:坚决拥护党中央决定

澎湃新闻
2026-10-18 20:03:03
记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

桂系007
2026-10-15 16:31:21
为什么西红柿越来越难吃了?科学家研究4年,发现是西红柿变了

为什么西红柿越来越难吃了?科学家研究4年,发现是西红柿变了

云霄纪史观
2026-10-18 12:30:34
“这就是穿碳板鞋的下场”,初中男孩走路姿势给人看懵了,家长全然不知

“这就是穿碳板鞋的下场”,初中男孩走路姿势给人看懵了,家长全然不知

熙熙说教
2026-10-13 16:28:55
只差27场!只差76助!只差560分!老詹将连破3大神迹,真要做到了

只差27场!只差76助!只差560分!老詹将连破3大神迹,真要做到了

畅评篮球
2026-10-18 12:38:56
辽宁赢11分!库珀22分5板8助太强,王岚嵚0分太低迷,谁注意高诗岩表情

辽宁赢11分!库珀22分5板8助太强,王岚嵚0分太低迷,谁注意高诗岩表情

老吴说体育
2026-10-18 21:41:45
电动汽车开始离谱了!换电池8万跌到2万,网约车司机开始不报废了

电动汽车开始离谱了!换电池8万跌到2万,网约车司机开始不报废了

音乐时光的娱乐
2026-10-14 09:21:12
神级售后!按错开机键以为显示器报废:售后直接免费升级新款

神级售后!按错开机键以为显示器报废:售后直接免费升级新款

快科技
2026-10-17 08:15:05
懂车帝是什么背景?敢屡次硬刚鸿蒙智行?为啥不报警?网友:被判一年八个月的翔翔就是它家前员工

懂车帝是什么背景?敢屡次硬刚鸿蒙智行?为啥不报警?网友:被判一年八个月的翔翔就是它家前员工

大白聊IT
2026-10-18 23:30:48
2026-10-19 03:59:00
谢纶邮轮摄影
谢纶邮轮摄影
干过5艘游轮,拍过教皇;援过西藏,上过20次布达拉宫。平凡日子拍拍历史的流逝印记
2838文章数 182关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

数码
健康
手机
公开课
军事航空

数码要闻

古尔曼:苹果计划为HomeView智能家庭中枢配备电动机械臂,最早2027年推出

看着很健康的人,怎么会突然猝死?

手机要闻

古尔曼:苹果明知iPhone Duo供应不足,仍坚持周五启动预售

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版