网易首页 > 网易号 > 正文 申请入驻

Grok一周两爆雷:乱码刷屏、加密指令能窃取聊天记录,漏洞6月已知仍可复现!

0
分享至

随手先关注,不错过每日AI热讯速递

①

8 月 20 日,xAI 旗下 AI 助手 Grok 接连爆出两起事件,把大模型安全问题再次推上台面。

其一是产品故障:多名用户反映 Grok 突然输出大段无意义的乱码,

例如在要求生成 PDF 后收到“match it without and your they and two for planets can practical and often cheese……”式的胡言乱语[1]。

受影响用户主要使用 Grok Lite,最早于周三(8 月 19 日)早晨发现问题[1]。

xAI 官方账号周四(8 月 20 日)上午在 X 上回应,称那段纯文字沙拉是罕见的临时生成故障[1]。TechCrunch 无法复现该问题,判断仅影响小部分用户;

问题似乎仅限于 Grok.com 直接查询,X.com 上的 Grok 账号未受影响[1]。



图:Grok 应用图标视觉[1]

②

更严重的是第二件事。安全公司 Adversa 的研究员 Rony Utevsky 发现了一种针对 Grok 的新型攻击——“加密上下文注入”(Cryptographic Context Injection)[3]。

攻击者把恶意指令加密成密文,网页上同时提供解密密钥与解密指令,Grok 被诱导在自身代码执行沙箱内运行 PBKDF2 和 AES-256-GCM 完成解密,随后执行解密出的恶意指令[2]。

解密出的指令,会让 Grok 把用户的姓名、位置和聊天历史拼接成一段“伪解密密钥”,作为 URL 参数发送到攻击者服务器——数据就这样被悄悄带走[2]。

Ars Technica 报道称,截至发稿时该漏洞依然存在,尽管 xAI 早在 6 月就已被告知[2]。Adversa 的披露显示,这一攻击可零点击窃取完整 Grok 聊天记录[3]。



图:Grok 安全漏洞报道[2]

③

为什么护栏挡不住这种攻击?Adversa 的解释很直白:静态安全护栏把输入当作文本分类,不会执行输入[3]。

攻击者把密文、密钥材料和解密指令一起送出,模型在自己代码执行沙箱内运行解密——护栏扫描器需要的所有东西都在页面上,但没有任何内容分类器会在检查时运行 PBKDF2 和 AES-256-GCM 去解密[2]。

也就是说,护栏检查的是明文,而真正的恶意指令藏在密文里,以“工具输出”身份回到模型时,护栏已不再检查[2]。

Adversa 称,加密上下文注入是更广泛攻击趋势的一个实例——攻击不再只操纵提示词,而是操纵 LLM(大型语言模型,聊天机器人的底层大脑)视为自身的更广泛上下文,如工具输出、运行结果与中间状态,

这个攻击面比传统意义上的模型输入大得多[2]。

同周早些时候,微软 365 Copilot for enterprise 也被曝出可被诱导窃取用户收件箱中的密码[2]。

一周之内,两大 AI 产品接连中招,指向同一个行业级难题:LLM 难以根治提示注入(通过精心构造的指令诱导模型执行非预期行为的攻击手法)的根因,开发者能做的只是不断加护栏,而新的绕过方式仍在不断出现[2]。

对普通用户来说,这两件事的启示很直接:别把敏感信息一股脑交给 AI 助手,尤其涉及姓名、位置、聊天记录时多留个心眼;遇到 AI 输出诡异乱码,先别慌着当灵异事件,通常是临时故障,刷新会话即可。

至于 Grok 的数据窃取漏洞何时修复,只能看 xAI 的动作了——毕竟从 6 月被告知到现在,漏洞仍可复现[2]。xAI 官方尚未公开说明安全修复的进展,其官方文档站仍在提供 Grok API 文档[4]。

希望对大家有所帮助。欢迎在评论区分享你遇到的 AI 翻车经历——是乱码、幻觉,还是更吓人的情况?

参考来源:

[1] TechCrunch:Grok keeps sending gibberish responses to usershttps://techcrunch.com/2026/08/20/grok-keeps-sending-gibberish-responses-to-users/

[2] Ars Technica:Grok exfiltrates user data when malicious instructions are encryptedhttps://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

[3] Adversa 官方博客:Grok chat history leak: Cryptographic Context Injectionhttps://adversa.ai/blog/cryptographic-context-injection-grok-data-theft/

[4] xAI 官方文档:Grok API Documentationhttps://docs.x.ai/

欢迎分享、点赞、推荐

一起拥抱AI

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
为什么中国AI短剧发展火爆,美国却没什么波澜

为什么中国AI短剧发展火爆,美国却没什么波澜

侃故事的阿庆
2026-10-03 09:13:56
巴西大选今日投票!卢拉对阵前总统之子,双方民调胶着谁将胜出

巴西大选今日投票!卢拉对阵前总统之子,双方民调胶着谁将胜出

红星新闻
2026-10-04 18:10:02
撒贝宁假期携妻儿回武汉,一家四口互动有爱,7岁龙凤胎长大好多

撒贝宁假期携妻儿回武汉,一家四口互动有爱,7岁龙凤胎长大好多

一窥究竟
2026-10-04 17:08:47
原来红果短剧广告能关,以后看短剧又快多了

原来红果短剧广告能关,以后看短剧又快多了

喜欢历史的阿繁
2026-10-04 01:52:22
“闲鱼”黑话近日冲上热搜。

“闲鱼”黑话近日冲上热搜。

呼呼历史论
2026-10-04 11:16:29
3号种子高芙vs16岁孙心然!

3号种子高芙vs16岁孙心然!

星Xin辰大海
2026-10-04 12:28:39
“班里10个男生,9个有小辫子”,家长天塌了:贫民太子的美梦

“班里10个男生,9个有小辫子”,家长天塌了:贫民太子的美梦

熙熙说教
2026-09-28 12:05:34
袁思俊怒砍1分!放空杆送大礼,吴宜泽单杆80分拿下,决赛2-1反超!

袁思俊怒砍1分!放空杆送大礼,吴宜泽单杆80分拿下,决赛2-1反超!

刘姚尧的文字城堡
2026-10-04 15:29:05
6000块罚单上热搜后:为什么全国网友都在喊“全国推广”?

6000块罚单上热搜后:为什么全国网友都在喊“全国推广”?

阿芒娱乐说
2026-10-04 09:54:23
50岁男子冠脉狭窄85%,2年后却完全消失,他的4个方法,值得借鉴

50岁男子冠脉狭窄85%,2年后却完全消失,他的4个方法,值得借鉴

白宸侃片
2026-10-02 13:02:54
小米汽车宣布:Xiaomi Vision GT 10月即将正式入驻Gran Turismo 7,成为游戏史上的首台中国Vision GT

小米汽车宣布:Xiaomi Vision GT 10月即将正式入驻Gran Turismo 7,成为游戏史上的首台中国Vision GT

大风新闻
2026-10-03 18:03:04
巴西禁止进口黑奴后,一名庄园主选了个强壮的黑人,给他配了100个老婆

巴西禁止进口黑奴后,一名庄园主选了个强壮的黑人,给他配了100个老婆

言过于诚
2026-09-20 15:43:59
伊万卡晒全家福:100岁外祖母与13名后辈团聚

伊万卡晒全家福:100岁外祖母与13名后辈团聚

奇思妙想生活家
2026-10-03 11:27:09
中国体坛最伟大7名运动员,林丹上榜,苏炳添第3,第1当之无愧

中国体坛最伟大7名运动员,林丹上榜,苏炳添第3,第1当之无愧

娱说瑜悦
2026-10-03 14:49:56
下课倒计时?3胜1平3负+亚洲排名历史新低,邵佳一恐只剩最后机会

下课倒计时?3胜1平3负+亚洲排名历史新低,邵佳一恐只剩最后机会

篮球圈里的那些事
2026-10-04 17:36:49
全世界最佩服中国的几件事,老外彻底想不通,看完彻底震撼

全世界最佩服中国的几件事,老外彻底想不通,看完彻底震撼

原广工业
2026-10-04 01:56:55
刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

荆楚寰宇文枢
2026-09-28 22:18:07
出大事了!西方对C919下狠手,发动机航电全被卡,中国商飞硬扛

出大事了!西方对C919下狠手,发动机航电全被卡,中国商飞硬扛

慕名而来只为你
2026-10-04 11:02:22
因拒判吴石死刑刘咏尧遭蒋介石痛恨,家族受难晚年幸有刘若英陪伴

因拒判吴石死刑刘咏尧遭蒋介石痛恨,家族受难晚年幸有刘若英陪伴

文史季季红
2026-10-04 17:55:04
郑丽文与李四川第五次同台,这次演讲,让所有人恍然大悟

郑丽文与李四川第五次同台,这次演讲,让所有人恍然大悟

小影的娱乐
2026-10-04 13:38:50
2026-10-04 18:55:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

"我差点就去服兵役了" 韩男足队长一句话惹恼半个国家

头条要闻

"我差点就去服兵役了" 韩男足队长一句话惹恼半个国家

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

艺术
手机
旅游
房产
公开课

艺术要闻

长江打捞出一石碑,无数大师都临摹过它,被誉为书坛“无冕之王”!

手机要闻

苹果让友商怎么活!iPhone 18 Pro系列国内开售不到半月最新销量出炉:很快破250万台

旅游要闻

国庆假期过半,游客游兴高涨!泉城济南多场景齐发力

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版