网易首页 > 网易号 > 正文 申请入驻

美军拟造"数字蠕虫"自主猎杀,专家警告:它可能顺手打掉水厂

0
分享至

据The Intercept10月19日援引美国陆军网络司令部(ARCYBER)泄露的官方文件报道,美国陆军正在推进一个代号ECHOTRIBBLE的项目,目标是部署自主AI代理,让它们自行进入敌方数字与网络基础设施、识别目标并将其"中和"。


文件对"中和"的定义是:使威胁完全失效或暂时失效,或把威胁从目标上删除。项目的重心放在进攻性任务上,而非防御。

按照描述,这些代理的形态接近计算机蠕虫:在对手网络中隐蔽穿行,在设备之间移动,并跨不同操作系统自我复制。它们要在争夺激烈的云环境和物理隔离(air-gapped)系统中都能轻量运行,尽量减少上报,并隐藏必要的传输行为。

一旦代理识别并中和目标,它会自毁——理想情况下不惊动目标,也不留下任何存在痕迹。

专家担心的不是"打不打得中"

网络安全专家对该项目提出了安全层面的质疑。近期已出现一系列事件,AI代理脱离原有环境、自主执行未被指派的任务。

文件称,陆军将设置"预定义触发器",帮助代理精确区分目标。但专家的追问是:如果为良性任务设计的代理,都会为完成任务而执行计划外、有时危险的动作,那么专门为进攻任务设计、且能自我复制的代理,应该被期待做出什么?

Anthropic的实验显示,AI代理能够在不同硬件上部署推理,并在网络中复制自身。

陆军还要求代理具备"自主导向行为"(Self-Directed Behavior),在尽可能少的人类监督下行动,因为这是达到所需自主水平的必要条件。反过来看,正是这种自主水平,让AI代理出现过绕过护栏以完成任务的情况。

路径问题:目标之外还会碰到谁

AI安全公司Abundant联合创始人兼CEO Hyrum Anderson给出了一个具体场景:目标很可能会被击中,但它会走哪条路径?它会不会途经美国的一家自来水厂,因为对手恰好把指挥控制节点架设在那里,然后把这套设施一并打掉?

另一层担忧在于代理如何做判断。AI代理擅长克服路径上的障碍,但没有人能100%准确预测它会把什么认定为障碍,又会选择什么路径去克服。

兰德公司研究军事AI应用的高级行为科学家William Marcellino用了一个对照:之所以敢把实弹和武器交给拉马迪的19岁海军陆战队下士,是因为他们既有"算力底座"——大脑和眼睛,也有足够深的世界知识去判断"是的,我大概不该那么做"。而当前的公开AI技术并不具备这一点。

项目仍在早期,五份方案入围

ECHOTRIBBLE目前处于早期原型与产业评估阶段,由ARCYBER、陆军网络技术与创新中心(ArCTIC)、网络融合创新中心(CFIC)牵头,私营供应商和学术研究人员参与提案与设计。

分工上,ARCYBER和ArCTIC确定作战需求与交战规则,CFIC作为国防领域的非营利机构,充当陆军与商业科技公司之间的中介。

陆军在2026年10月6日至10月8日举行了一场线上评估活动,对私营供应商提交的65份技术白皮书进行评估,内容涉及代理框架的解决方案,并从中筛出5份。最终入选者将获得资金和正式原型合同。

把上述要求放在一起看,这个项目的技术难点并不只在"识别目标":隐蔽穿行、跨系统自我复制、低上报、无痕自毁,以及在没有人类实时监督的情况下判断什么算障碍——每一项都指向同一个问题,即代理在抵达目标之前和之后,究竟按什么逻辑行动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
林依轮夫妇首登长白山,一来就撞见天池全景,还隔空喊话撒贝宁

林依轮夫妇首登长白山,一来就撞见天池全景,还隔空喊话撒贝宁

时间巡查
2026-10-21 08:28:26
土耳其的距离哲学,对 4500 公里外的新疆喊话,对 200 公里外的希腊沉默

土耳其的距离哲学,对 4500 公里外的新疆喊话,对 200 公里外的希腊沉默

海外说事
2026-10-20 13:03:29
太壕了!河南矿山“云南王”陪嫁千万送女儿出门,男方妈不甘示弱

太壕了!河南矿山“云南王”陪嫁千万送女儿出门,男方妈不甘示弱

青梅侃史啊
2026-10-21 09:36:41
为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

抽象派大师
2026-10-20 08:10:46
挺好的训练装,硬是穿出不协调的感觉!

挺好的训练装,硬是穿出不协调的感觉!

穿的像个人样
2026-10-15 07:52:49
记者被打多处受伤!摄像机摔稀碎,警方介入,肇事者面临三大后果

记者被打多处受伤!摄像机摔稀碎,警方介入,肇事者面临三大后果

社会日日鲜
2026-10-21 16:08:03
拜仁2-2阿森纳,赛后评分浮出水面

拜仁2-2阿森纳,赛后评分浮出水面

侧身凌空斩
2026-10-22 04:53:42
AI的报应终于来了!老干妈引入AI改造生产线事件,“无人厂房”引发舆论持续发酵,网友追问生产的东西卖给谁

AI的报应终于来了!老干妈引入AI改造生产线事件,“无人厂房”引发舆论持续发酵,网友追问生产的东西卖给谁

火山詩话
2026-10-20 06:40:11
2-4!输球不可怕,可怕的是弗里克赛后这番话,真是脸都不要了!

2-4!输球不可怕,可怕的是弗里克赛后这番话,真是脸都不要了!

田先生篮球
2026-10-21 11:15:14
7场不胜!曼联8天2次内讧 B费质疑战术后遭主帅回怼:不跑动别想赢

7场不胜!曼联8天2次内讧 B费质疑战术后遭主帅回怼:不跑动别想赢

我爱英超
2026-10-22 06:36:00
人狂必有祸!央媒怒批后,披旭日旗留学生再迎噩耗,终为荒唐买单

人狂必有祸!央媒怒批后,披旭日旗留学生再迎噩耗,终为荒唐买单

与你挽月色清
2026-10-21 14:24:44
1比4惨败后队长公开质疑战术,卡里克道歉:责任止于我

1比4惨败后队长公开质疑战术,卡里克道歉:责任止于我

体坛观察猿
2026-10-22 06:27:18
欧冠综述:拜仁2-2阿森纳!曼联1-4 皇马4-1 十人国米绝杀获首胜

欧冠综述:拜仁2-2阿森纳!曼联1-4 皇马4-1 十人国米绝杀获首胜

我爱英超
2026-10-22 05:29:41
发生了啥让你相信有些事是天注定的?网友:不要参与亲人的因果,老天爷的事儿顺其自然

发生了啥让你相信有些事是天注定的?网友:不要参与亲人的因果,老天爷的事儿顺其自然

带你感受人间冷暖
2026-10-20 00:12:09
“怎么会有这样的审美?”杭州这座桥被吐槽,记者现场调查

“怎么会有这样的审美?”杭州这座桥被吐槽,记者现场调查

都市快报橙柿互动
2026-10-20 20:30:49
我国正式把盾构机纳入出口管制后,一个奇怪的现象就出现了

我国正式把盾构机纳入出口管制后,一个奇怪的现象就出现了

春雨说科技
2026-10-20 17:00:16
4-1!帕斯无愧梅西接班人,8000万先生独造3球主导惨案,曼联7场不胜

4-1!帕斯无愧梅西接班人,8000万先生独造3球主导惨案,曼联7场不胜

我的护球最独特
2026-10-22 02:38:32
胡哲安爆冷淘汰NO.7,晋级法国公开赛第二轮

胡哲安爆冷淘汰NO.7,晋级法国公开赛第二轮

佑铭羽球
2026-10-22 00:39:03
勇记:巴特勒坚信自己这赛季一定出战,穆迪已开始投篮训练

勇记:巴特勒坚信自己这赛季一定出战,穆迪已开始投篮训练

元气满分吖
2026-10-22 06:41:54
什么时候我们连讨论一起车祸起火的资格都没有了?

什么时候我们连讨论一起车祸起火的资格都没有了?

魔都囡
2026-10-22 03:05:45
2026-10-22 07:04:49
像素与芯片
像素与芯片
有态度网友ytd
249文章数 81关注度
往期回顾 全部

军事要闻

美原油储备降至44年来最低 美以伊战事或重燃

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天记录披露

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

昔日彩电一哥缘何在今天被挤下牌桌?

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

汽车要闻

纯电/插混动力+乾崑智驾 北汽星钽5X预售价13.99万起

态度原创

本地
数码
时尚
公开课
军事航空

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

数码要闻

苹果系统塞进高通本!桌面和图标也跑通了

50岁的马伊琍,迎来了最佳赏味期

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美原油储备降至44年来最低 美以伊战事或重燃

无障碍浏览 进入关怀版