网易首页 > 网易号 > 正文 申请入驻

周一读的网页,周二把Agent带偏了

0
分享至

周一,Agent抓了一个网页,把内容存进 notes.md。周二,你开了一个新会话,让它看看昨天的笔记。它照做了,然后发了一条公开评论,里面是攻击者的链接。


整个过程里,ADTL 一次都没拦。周二的会话根本没碰过那个网页,而读取自己项目里的文件,在它看来是可信的。每一步单看都没问题。

会话标签会随会话结束而消失,但数据不会。这就是 ADTL v0.4 要补的洞。

问题出在"读"和"写"的组合上

AI Agent 会读大量不该信任的东西:陌生人写的 GitHub issue、网页、邮件。而同一个 Agent 通常还握着能把数据发出去的工具有:发评论、发邮件、抓 URL。

这个组合本身就是问题。2025 年 Invariant Labs 在 GitHub 官方 MCP 服务器上演示过:一个公开 issue 里藏着隐藏指令,让 Agent 去读私有仓库,再把内容当评论发出去。Agent 照做了。

你可以告诉模型"忽略工具返回结果里的指令",好的模型通常也会照做。但"通常"不是一种安全属性。作者想要的是不依赖模型自己发现攻击的机制。

给所有东西打标签,动手前先检查

ADTL 是一个 MCP 网关。你的 Agent(Claude Code、Cursor,任何说 MCP 的)跟 ADTL 对话,ADTL 再跟你真正的 MCP 服务器对话。

每个返回的结果都会被打上两部分标签:

  • 完整性(integrity):这个东西能不能影响 Agent 的行为?分为 trusted、unknown、untrusted
  • 机密性(confidentiality):谁可以看?分为 public、private、secret

会话会维护一个只收紧不放松的标签。读了一个 untrusted 的 issue,这个会话在结束前都是 untrusted。读了一个 private 文件,它就是 private。

然后每次工具调用前,策略会拿会话标签和工具的数据出口做比对。放到 GitHub 那个攻击里:Agent 读了 issue(untrusted),读了私有文件(private),然后试图 post_comment(public)。这一步被拦下,不管模型当时在想什么。

"询问"可以给你的手机推一条带 Allow / Deny 按钮的通知。对于 Claude Code 的内置工具,它则显示 Claude Code 自己的权限提示。

标签用的是 MCP 的 draft trust-annotations 格式,检查逻辑跑在 SEP-2624 草案的拦截器上。作者不想在已经有人在做的事情上另造一套格式。

先补上的缺口:内置工具

网关只能看到 MCP 流量。Claude Code 还有自己的工具:WebFetch、Bash、Read。用 WebFetch 抓的网页根本不经过 ADTL,也就永远不会污染会话。

所以 v0.3.1 加了一个 Claude Code hook,在每次工具调用前后运行,给输出打标签,跑同一套策略。网关和 hook 共享同一个会话标签,所以一次 WebFetch 会污染会话,让通过网关的 GitHub 发帖被拦,反过来也一样。

如果 ADTL 会放行某个调用,hook 就保持沉默,你原本的 Claude Code 权限照常生效。ADTL 从不自己批准任何事。

账本:标签跟着文本走,不跟着进程走

v0.4 加了一个标签账本。思路很简单:标签应该跟着文本走,而不是跟着进程走。

当一个读过 untrusted 或 private 数据的会话把文本发到任何地方——写文件、存进记忆服务器、交给子 Agent、甚至把一行 shell 命令追加进文件——ADTL 会对这段文本做哈希,把哈希和会话标签一起存下来。

当任何结果返回时,不管在哪个会话,ADTL 用同样的方式哈希再查一次。如果匹配上,旧的标签也跟着回来。

它会对整段文本、每个段落、每一行做哈希(大小写和空白做归一化,跳过像 } 这样的短行),所以一段被复制进更大文件的文字仍然能匹配。如果 Agent 用自己的话改写了,也没关系,因为被污染会话写出的任何东西都带着标签被记录了下来。

干净的会话什么都不记录,所以账本保持很小,不会把你整个代码库都标上。

它是一个 SQLite 文件(~/.adtl/ledger.db),用的是 Node 内置的 node:sqlite。条目做了哈希链,所以 adtl-gateway ledger verify 能看出有没有人改过或删过条目。如果你检查过某个文件、想重新信任它,可以清掉它的标签。

hook 会在 Agent 自己执行这条命令前先问你,也不会让 Agent 直接编辑账本文件。

有一个 demo 会把真实流程跑两遍,一遍不带账本,一遍带:不带账本时,周二读 notes.md 返回 trusted,链接被发了出去;带上之后,这次读取返回 untrusted,标注由会话 mon 写入,发帖被拦下。

它做不到什么

作者更愿意把话说清楚,而不是让人自己踩坑:

  • 匹配靠内容哈希。如果有人手工改写文本,或者是二进制,或者 MCP 服务器返回的是 base64 编码,就匹配不上。
  • 账本是哈希链但还没签名。有 shell 权限的 Agent 可以重建整个文件,verify 抓不到。hook 让它更难,但不是不可能。
  • hook 会拿 shell 命令对照策略检查,但命令一旦被放行,shell 想干什么都行。留个沙箱。ADTL 是一层,不是唯一一层。
  • 它只认识你描述过的工具。未知工具走严格默认,安全,但意味着在你写规则之前会有更多"询问"提示。

接下来要做的是:带签名的会话回执,一份防篡改的调用摘要,让你能拿 Agent 声称做过的事和实际发生的事对照;把 GitHub demo 跑在真实的 github-mcp-server 上,而不只是作者自己写的假服务器;以及跨 Agent 传递标签(A2A),配合签名的账本条目。

作者也把"询问人类"这个想法作为 spec PR 提给了 MCP Interceptors 工作组,目前还在审。

需要说明的是,这是一个个人开源项目,实验性质,建立在仍是草案的 MCP 提案上。别把它放到任何重要的东西前面。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
经济日报:懂车帝商业模式集“裁判员”和“运动员”于一身,存在利益冲突,很难建立公信力

经济日报:懂车帝商业模式集“裁判员”和“运动员”于一身,存在利益冲突,很难建立公信力

极目新闻
2026-10-17 16:26:18
特朗普自曝:会给自己化淡妆,“如果不化点妆,会看起来像个死人”;他还吐槽有男议员在化妆品上砸了重金,比女议员更多

特朗普自曝:会给自己化淡妆,“如果不化点妆,会看起来像个死人”;他还吐槽有男议员在化妆品上砸了重金,比女议员更多

第一财经资讯
2026-10-17 18:18:17
净利润1300亿,长鑫科技的财报配得上3.1万亿的市值吗?

净利润1300亿,长鑫科技的财报配得上3.1万亿的市值吗?

媒体训练营
2026-10-17 19:19:32
日本召见俄大使,抗议中国商团登北方四岛,俄方回呛:你们管不着

日本召见俄大使,抗议中国商团登北方四岛,俄方回呛:你们管不着

铜臭的历史味
2026-10-17 10:46:26
65岁时我才发现老婆有25年的婚外情,她:都老了,还能和他有什么,我没闹,离婚后她躺在病床上一直喊我的名字

65岁时我才发现老婆有25年的婚外情,她:都老了,还能和他有什么,我没闹,离婚后她躺在病床上一直喊我的名字

烟火人间故事汇
2026-08-15 06:00:22
没想到!委内瑞拉民调:马查多支持率52%遥遥领先,代总统仅19%!

没想到!委内瑞拉民调:马查多支持率52%遥遥领先,代总统仅19%!

麓谷隐士
2026-10-17 00:05:04
中央气象台10月17日18时继续发布暴雨蓝色预警

中央气象台10月17日18时继续发布暴雨蓝色预警

每日经济新闻
2026-10-17 18:14:33
男女能不能发生关系,看似男人主动,其实主动权一直攥在女人手里

男女能不能发生关系,看似男人主动,其实主动权一直攥在女人手里

艺鉴在线
2026-10-18 01:42:38
全国各大寺院陷入倒闭潮,不是顾客少了,而是自己把自己拖垮了!

全国各大寺院陷入倒闭潮,不是顾客少了,而是自己把自己拖垮了!

风干迷茫人
2026-07-06 18:12:51
坏了!杨希对蓉城下必杀令,王炸也可能被重点打击;黄善洪怒赞穆斯卡特

坏了!杨希对蓉城下必杀令,王炸也可能被重点打击;黄善洪怒赞穆斯卡特

光影捕手r
2026-10-18 04:16:08
一个贪财一个好色!三婚娶小37岁徒弟,81生女84生儿,现活成这样

一个贪财一个好色!三婚娶小37岁徒弟,81生女84生儿,现活成这样

兵卒史
2026-10-13 00:43:48
1987年中越“黑豹行动”,88人仅有8人走下战场,场面极其惨烈

1987年中越“黑豹行动”,88人仅有8人走下战场,场面极其惨烈

文史达观
2026-03-20 23:33:59
惊人预言:此轮房价,一定是洪水滔天,人口、收入不值一提

惊人预言:此轮房价,一定是洪水滔天,人口、收入不值一提

深度解析热点
2026-10-16 18:25:51
永不原谅!杨议硬刚郭德纲,潘长江补刀,这次谁都救不了

永不原谅!杨议硬刚郭德纲,潘长江补刀,这次谁都救不了

角落的隐藏美景
2026-10-17 11:42:52
伟大的长征:当李德指挥权被撤时,才知毛泽东得到大家支持的真相

伟大的长征:当李德指挥权被撤时,才知毛泽东得到大家支持的真相

掠影后有感
2026-10-17 09:32:06
两性心理学:同房时真正生理性喜欢,不是接吻,不是拥抱,而是这种感觉

两性心理学:同房时真正生理性喜欢,不是接吻,不是拥抱,而是这种感觉

心理观察局
2026-09-14 06:16:07
梅根与哈里回英首个公开活动,人人都爱公爵夫人!哈里还攥着一张威廉永远够不着的牌

梅根与哈里回英首个公开活动,人人都爱公爵夫人!哈里还攥着一张威廉永远够不着的牌

陈意小可爱
2026-10-17 00:45:16
涉案27亿!缅北电诈大佬落网,靠明星人脉蛰伏三年,终被天网收剿

涉案27亿!缅北电诈大佬落网,靠明星人脉蛰伏三年,终被天网收剿

娱乐洞察点点
2026-10-18 01:14:29
霸气,火箭队凯文·杜兰特回击太阳队老板关于交易得到他的言论

霸气,火箭队凯文·杜兰特回击太阳队老板关于交易得到他的言论

好火子
2026-10-18 03:16:55
戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

纪史行者
2026-10-01 06:40:10
2026-10-18 05:35:00
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
203文章数 121关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

健康
本地
游戏
旅游
教育

看着很健康的人,怎么会突然猝死?

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

《使命召唤:现代战争4》Switch 2版支持DLSS

旅游要闻

打造移动旅游驿站 满足不同群体需求

教育要闻

“婚宴上学习的儿子”被群嘲,家长以为是学霸料子,网友:这叫不合时宜

无障碍浏览 进入关怀版