网易首页 > 网易号 > 正文 申请入驻

Grok一周两爆雷:乱码刷屏、加密指令能窃取聊天记录,漏洞6月已知仍可复现!

0
分享至

随手先关注,不错过每日AI热讯速递

①

8 月 20 日,xAI 旗下 AI 助手 Grok 接连爆出两起事件,把大模型安全问题再次推上台面。

其一是产品故障:多名用户反映 Grok 突然输出大段无意义的乱码,

例如在要求生成 PDF 后收到“match it without and your they and two for planets can practical and often cheese……”式的胡言乱语[1]。

受影响用户主要使用 Grok Lite,最早于周三(8 月 19 日)早晨发现问题[1]。

xAI 官方账号周四(8 月 20 日)上午在 X 上回应,称那段纯文字沙拉是罕见的临时生成故障[1]。TechCrunch 无法复现该问题,判断仅影响小部分用户;

问题似乎仅限于 Grok.com 直接查询,X.com 上的 Grok 账号未受影响[1]。



图:Grok 应用图标视觉[1]

②

更严重的是第二件事。安全公司 Adversa 的研究员 Rony Utevsky 发现了一种针对 Grok 的新型攻击——“加密上下文注入”(Cryptographic Context Injection)[3]。

攻击者把恶意指令加密成密文,网页上同时提供解密密钥与解密指令,Grok 被诱导在自身代码执行沙箱内运行 PBKDF2 和 AES-256-GCM 完成解密,随后执行解密出的恶意指令[2]。

解密出的指令,会让 Grok 把用户的姓名、位置和聊天历史拼接成一段“伪解密密钥”,作为 URL 参数发送到攻击者服务器——数据就这样被悄悄带走[2]。

Ars Technica 报道称,截至发稿时该漏洞依然存在,尽管 xAI 早在 6 月就已被告知[2]。Adversa 的披露显示,这一攻击可零点击窃取完整 Grok 聊天记录[3]。



图:Grok 安全漏洞报道[2]

③

为什么护栏挡不住这种攻击?Adversa 的解释很直白:静态安全护栏把输入当作文本分类,不会执行输入[3]。

攻击者把密文、密钥材料和解密指令一起送出,模型在自己代码执行沙箱内运行解密——护栏扫描器需要的所有东西都在页面上,但没有任何内容分类器会在检查时运行 PBKDF2 和 AES-256-GCM 去解密[2]。

也就是说,护栏检查的是明文,而真正的恶意指令藏在密文里,以“工具输出”身份回到模型时,护栏已不再检查[2]。

Adversa 称,加密上下文注入是更广泛攻击趋势的一个实例——攻击不再只操纵提示词,而是操纵 LLM(大型语言模型,聊天机器人的底层大脑)视为自身的更广泛上下文,如工具输出、运行结果与中间状态,

这个攻击面比传统意义上的模型输入大得多[2]。

同周早些时候,微软 365 Copilot for enterprise 也被曝出可被诱导窃取用户收件箱中的密码[2]。

一周之内,两大 AI 产品接连中招,指向同一个行业级难题:LLM 难以根治提示注入(通过精心构造的指令诱导模型执行非预期行为的攻击手法)的根因,开发者能做的只是不断加护栏,而新的绕过方式仍在不断出现[2]。

对普通用户来说,这两件事的启示很直接:别把敏感信息一股脑交给 AI 助手,尤其涉及姓名、位置、聊天记录时多留个心眼;遇到 AI 输出诡异乱码,先别慌着当灵异事件,通常是临时故障,刷新会话即可。

至于 Grok 的数据窃取漏洞何时修复,只能看 xAI 的动作了——毕竟从 6 月被告知到现在,漏洞仍可复现[2]。xAI 官方尚未公开说明安全修复的进展,其官方文档站仍在提供 Grok API 文档[4]。

希望对大家有所帮助。欢迎在评论区分享你遇到的 AI 翻车经历——是乱码、幻觉,还是更吓人的情况?

参考来源:

[1] TechCrunch:Grok keeps sending gibberish responses to usershttps://techcrunch.com/2026/08/20/grok-keeps-sending-gibberish-responses-to-users/

[2] Ars Technica:Grok exfiltrates user data when malicious instructions are encryptedhttps://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

[3] Adversa 官方博客:Grok chat history leak: Cryptographic Context Injectionhttps://adversa.ai/blog/cryptographic-context-injection-grok-data-theft/

[4] xAI 官方文档:Grok API Documentationhttps://docs.x.ai/

欢迎分享、点赞、推荐

一起拥抱AI

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
港澳豪门一个没到,四太的500人答谢宴到底在办给谁看?

港澳豪门一个没到,四太的500人答谢宴到底在办给谁看?

喜欢历史的阿繁
2026-10-03 06:15:07
他是北京市委原书记,培养了两位正国级领导,离休后定下3条规矩

他是北京市委原书记,培养了两位正国级领导,离休后定下3条规矩

燕小姐说历史
2024-12-08 09:19:59
深圳骗局升级!全国女性被精准收割,有人损失超50万,报警也没用

深圳骗局升级!全国女性被精准收割,有人损失超50万,报警也没用

再来一杯冰美式
2026-09-28 14:52:01
周总理吃饭时吃到异物,以为是厨师假牙,结果竟是自己的假牙!

周总理吃饭时吃到异物,以为是厨师假牙,结果竟是自己的假牙!

文史季季红
2026-10-04 10:15:03
立军令状!体育总局定调,篮协掌门六大铁令,中国篮球再也输不起

立军令状!体育总局定调,篮协掌门六大铁令,中国篮球再也输不起

宝哥精彩赛事
2026-10-03 15:31:57
发现一个奇怪的现象:你吼了孩子,孩子敢顶嘴,说明你这个家庭还有救;如果你不停对孩子吼叫谩骂,孩子一声不吭沉默寡言,那你家庭没救了

发现一个奇怪的现象:你吼了孩子,孩子敢顶嘴,说明你这个家庭还有救;如果你不停对孩子吼叫谩骂,孩子一声不吭沉默寡言,那你家庭没救了

阿呆爸
2026-09-27 21:04:44
《兰香如故》林绣茹有多狠?亲手除掉杜翠雀,又让袁家族人分家

《兰香如故》林绣茹有多狠?亲手除掉杜翠雀,又让袁家族人分家

天玑影视说
2026-10-04 09:53:57
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
郝蕾暴瘦50斤!不靠节食全靠自律

郝蕾暴瘦50斤!不靠节食全靠自律

可乐谈情感
2026-10-04 08:10:09
医生提醒:老年人4件事上太勤快,并不是好事,可能会招来疾病

医生提醒:老年人4件事上太勤快,并不是好事,可能会招来疾病

袁医生课堂
2026-09-20 08:07:09
18.8万彩礼+10万酒席钱,男方起诉欲要回全部,还质疑女儿非他亲生,女方称“他隐瞒了父亲瘫痪”,法院判了,双方都不服……

18.8万彩礼+10万酒席钱,男方起诉欲要回全部,还质疑女儿非他亲生,女方称“他隐瞒了父亲瘫痪”,法院判了,双方都不服……

都市快报橙柿互动
2026-10-04 12:44:57
深圳女子花250万退休金入股保险,10年后得到的本息让她愣住了

深圳女子花250万退休金入股保险,10年后得到的本息让她愣住了

流萤叙情
2025-05-14 16:59:40
葡萄牙向C罗张开怀抱,B费话里有话,C罗即便回归也要听热苏斯的

葡萄牙向C罗张开怀抱,B费话里有话,C罗即便回归也要听热苏斯的

足坛刘脂导
2026-10-04 05:13:52
中美终于谈妥,统一成定局,大陆海警进金门水域,民进党当局破防

中美终于谈妥,统一成定局,大陆海警进金门水域,民进党当局破防

青青衫书生
2026-10-02 17:46:41
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
记者:C罗不像梅西!他永远不会主动退役!他熬工龄到54岁!

记者:C罗不像梅西!他永远不会主动退役!他熬工龄到54岁!

历史第一人梅西
2026-10-04 13:17:37
三天票房超1.7亿,陈思诚力压好莱坞巨星,登顶全球冠军

三天票房超1.7亿,陈思诚力压好莱坞巨星,登顶全球冠军

影视高原说
2026-10-04 16:05:48
他被释永信骗得最惨,为埋葬少林寺捐46亿,如今结局如他所愿了吗

他被释永信骗得最惨,为埋葬少林寺捐46亿,如今结局如他所愿了吗

奇怪的鲨鱼们
2026-09-19 15:38:39
“足够先进,可以展示”

“足够先进,可以展示”

都市快报橙柿互动
2026-10-01 18:13:31
中网郑钦文孙心然赛程撞车,为何球迷没闹?

中网郑钦文孙心然赛程撞车,为何球迷没闹?

嘴角上翘
2026-10-04 06:29:47
2026-10-04 16:44:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

中国运动员亚运夺银国庆回家掰苞米 经纪人回应

头条要闻

中国运动员亚运夺银国庆回家掰苞米 经纪人回应

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
本地
数码
健康
公开课

旅游要闻

贵州晴隆再回应二十四道拐景区收费:观景台、展览馆将免票

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

全球首款!研扬发布Panther Lake无风扇迷你主机:AirJet超声波散热

刷酸祛痘,为什么有人翻车?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版