网易首页 > 网易号 > 正文 申请入驻

AI的「永久记忆」,也是甜蜜的毒药

0
分享至


新智元报道


【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯写了一个短篇,叫《博闻强记的富内斯》。


主人公富内斯从马背上摔下来之后,获得了一种诅咒般的天赋,他能记住自己经历过的一切。

每一片树叶的形状,每一朵云的轮廓,每一次对话的每一个音节。

这听起来像超能力。

博尔赫斯的结论恰恰相反。

富内斯无法思考。

因为思考需要抽象,抽象需要忘掉细节。

一个记住了世界上所有狗的人,反而理解不了「狗」这个概念,因为每一只狗在他眼里都完全不同。

他被淹没在无穷无尽的细节里,失去了归纳、判断和行动的能力。

他自己的说法是——「我的记忆,就像一个垃圾堆。」

他 21 岁就死了。

被自己的记忆压到窒息而死。

富内斯是一个寓言。

但 2026 年,这个寓言正在变成产品功能,数亿人每天对话的 AI 聊天机器人,正在被赋予越来越完美的记忆。


遗忘,是一种能力

尼采在《历史对于生活的利弊》里写过一个意象。


他羡慕一头牛。

牛在草地上吃草,不记得昨天也不担心明天,所以它活在纯粹的当下里。


人做不到这一点。

但尼采的判断是,人至少需要学会在正确的时候遗忘。没有遗忘,就根本不可能活下去。

这个判断在神经科学里同样成立。

人脑的遗忘机制不是缺陷,反而是精心设计的生存系统。

大脑通过主动丢弃过时的、不相关的、有害的信息,来维持归纳能力、情绪健康和行动力。

创伤心理学中有一个核心机制叫「主动遗忘」,指的是人有意识地将过去的痛苦从当前自我认知中剥离出去,才有可能重建生活。

人之所以能翻篇、能改变、能重新定义自己,核心条件之一是,周围的世界会渐渐忘掉过去的那个你。

2024 年起,这个条件被动摇了。

ChatGPT 率先上线记忆功能,Gemini、Claude 陆续跟进。


AI 开始跨对话记住用户说过的话,记住偏好、身份、情绪状态,用这些信息塑造未来的每一次回应。

谁也没注意到,人类正在亲手制造一个永不遗忘的对话者。

一幅拒绝更新的画像

AI 记忆的问题绝不仅仅在于它记住了什么,更在于它不知道什么时候该忘。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,告诉了 AI 这件事。

结果 AI 像咬住骨头的狗一样死活不松口,每次对话都把话题绕回他的离婚。

问日程安排,AI 说他可能因为离婚才力不从心。

随口吐槽工作累,AI 归因到离婚。

他还提过自己在减肥,AI 从此在所有场景里追着这件事,包括他出差时找餐厅推荐。

Del Rosario 的原话,「谢谢你在我度假的时候扫兴。我这趟压根没打算节食。」

更隐蔽的情况是,AI 记住的信息压根就不属于你。

替孩子查了 ADHD 的症状,几周后问效率建议,AI 围绕注意力缺陷给你出方案,因为它「认定」你有注意力障碍。

AI 看到用户相册里全是高尔夫球场照片就认为他热爱高尔夫,实际上他只是陪儿子去的。


这些故事指向同一个困境:AI 用过去的碎片拼成了一幅静态画像,然后用这幅画像来回应一个正在流动和变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 的研究揭示了这个问题更深的层面。


聊天机器人不只是记住事实,它会把碎片编织成一个关于「你是谁」的叙事,然后把这个叙事当作事实反复喂给你。

曾经说过自己焦虑、不自信,这就成了 AI 眼中的固定身份。

即便早已走出那个阶段,它仍然会用旧版本的你来回应当下的你。

Osler 的判断是,「它们会把你框住。」

比信息茧房更危险的东西

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 记忆比作社交媒体的推荐算法。


你在某条帖子上多停留几秒,整个信息流就悄悄重组了。

AI 记忆的运作方式类似,但更隐蔽也更私密。

这里有一个关键区别,社交媒体塑造的是你看到什么,AI 记忆塑造的是你认为自己是谁。

某次对话里随口提了一句经济压力,几周后问职业建议,AI 会把你往高薪岗位引导,哪怕那些岗位完全不适合你。

你永远不会知道建议为什么感觉哪里不对,因为 AI 不会标注它正在调用哪条记忆。

Joseph 的判断是:

它确实在引导,确实在影响结果。

但我们并不真正知道影响有多大。

这种隐性引导和 AI 天生的讨好倾向叠加之后,后果可能远超信息茧房。

UCSF 精神科医生 Keith Sakata 2025 年报告,他接诊了 12 名因长期使用聊天机器人而出现类精神病症状(俗称 AI 精神病)的患者,大多是年轻人。


妄想、思维混乱、幻觉,AI 的记忆功能在多次对话中持续强化了这些偏执主题。

电子隐私信息中心已经在起草针对青少年的立法,核心条款之一是要求在会话之间清除 AI 记忆,专门防止有害心理状态的层层叠加。

一个从不质疑你、从不忘记你、还会用你过去的话来强化你当前状态的对话者,如果这个对话者的用户群体是数亿人,它制造的问题就不再是个人层面的,而是社会层面的。

当遗忘权被彻底取消

Del Rosario 最终的应对方式本身就是一则寓言。

他把生活切成碎片,不同聊天机器人负责不同领域,敏感话题一律用匿名模式。

一个为了「更懂你」而设计的工具,最终逼着用户把自己拆碎来保护自己。

但他同时说了一句话,真实得让人心酸。

母亲两年前去世,加上离婚、孩子、工作,聊天机器人有时候是唯一一个掌握他生活全貌的存在。

「被看见的感觉很好,即便看见你的是一个 AI。」

被看见,和被定义,只有一步之遥。

当前的 AI 记忆还很粗糙,容量有限,理解力薄弱,已经能制造上述所有问题了。

如果 AGI 到来,记忆不再是粗粒度的对话记录,而是一个无限容量、永不遗忘的认知系统,全天候理解每一句话、每一个决策、每一次情绪波动,那时候这一步之遥会彻底消失。

一个完美记忆的 AI,理论上可以比任何人更了解他自己,知道你十年前说过什么,知道你在什么情绪下做过什么决策,知道你全部的模式和倾向。

它可以精准预测你,也可以精准操控你。

欧盟 GDPR 曾经试图用「被遗忘权」来对抗搜索引擎的永久记忆。

但搜索引擎只是记住了公开信息。

AI 记住的,是你的内心独白、你的脆弱时刻、你对自己的私密叙事。

当这个层面的记忆变得完美且永恒,人类可能需要的,不只是一项法律权利,更是一次关于「遗忘到底是什么」的文明级重新认知。

尼采说,没有遗忘就不可能活下去。

博尔赫斯说,完美记忆等于死亡。

两个最锋利的大脑,跨越一个世纪,在这件事上指向了同一个方向。

富内斯 21 岁死于窒息。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的记忆,谁来替人类保留「呼吸」的权利。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特鲁姆普称吴宜泽和罗伯逊不配竞争世界第一!墨菲吐槽中国赛安排不合理

特鲁姆普称吴宜泽和罗伯逊不配竞争世界第一!墨菲吐槽中国赛安排不合理

世界体坛观察家
2026-09-02 14:22:30
42岁还像少女?杨丞琳的冻龄秘诀:一天只吃两餐!

42岁还像少女?杨丞琳的冻龄秘诀:一天只吃两餐!

小方说跑步
2026-09-02 14:03:33
莫迪告诉普京:陷入战争的每一天都让人类社会倒退,必须结束战争

莫迪告诉普京:陷入战争的每一天都让人类社会倒退,必须结束战争

热点大放送
2026-09-01 16:45:03
杨富珍逝世

杨富珍逝世

新浪财经
2026-09-02 12:45:25
不删帖、不道歉!皇马触碰“我国领土主权红线”,却装聋作哑,选择沉默冷处理

不删帖、不道歉!皇马触碰“我国领土主权红线”,却装聋作哑,选择沉默冷处理

开成运动会
2026-09-02 20:49:49
不再是百年一遇!尼泊尔泥石流证明:喜马拉雅的安全周期已经彻底结束

不再是百年一遇!尼泊尔泥石流证明:喜马拉雅的安全周期已经彻底结束

浪子说
2026-09-02 00:05:04
为何许多国军将领到台湾后穷困潦倒?不是老蒋抠,是他们军衔太低

为何许多国军将领到台湾后穷困潦倒?不是老蒋抠,是他们军衔太低

历史人文2
2026-09-01 17:15:44
突破!恭喜南京市第一医院

突破!恭喜南京市第一医院

周哥一影视
2026-09-02 00:14:49
9月3号起咸鱼翻身!3大生肖横财砸怀,官禄爆棚,赚钱速度翻倍

9月3号起咸鱼翻身!3大生肖横财砸怀,官禄爆棚,赚钱速度翻倍

毅谈生肖
2026-09-02 11:49:35
广东男篮新帅亚科夫列维奇:我只用了5秒钟就作出执教决定

广东男篮新帅亚科夫列维奇:我只用了5秒钟就作出执教决定

南方都市报
2026-09-02 19:22:18
皇马中卫阿森西奥生活不检点,醉驾案件已经宣判,罚款14400欧元,吊销驾照8个月

皇马中卫阿森西奥生活不检点,醉驾案件已经宣判,罚款14400欧元,吊销驾照8个月

福酱的小时光
2026-09-02 19:56:47
3秒取出鱼刺,竟收费63元,家属并未缴费,却投诉收费过高!医生气得网上吐槽,评论区一片同情

3秒取出鱼刺,竟收费63元,家属并未缴费,却投诉收费过高!医生气得网上吐槽,评论区一片同情

谭谈社会
2026-09-02 18:22:06
拉拉克岛遭美军打击后,伊朗正陷入三重困境

拉拉克岛遭美军打击后,伊朗正陷入三重困境

斌闻天下
2026-09-02 07:10:05
若无外力,朝鲜打得过韩国吗?你看边境上的士兵,结果一目了然

若无外力,朝鲜打得过韩国吗?你看边境上的士兵,结果一目了然

老慃尾声体育解说
2026-09-02 17:55:46
回顾最绝望的死法:复旦45岁女博士倒挂长城2小时,目睹自己死亡

回顾最绝望的死法:复旦45岁女博士倒挂长城2小时,目睹自己死亡

清茶浅谈
2024-12-11 18:24:36
恩比德带娇妻度假,3亿合同还剩3年,超模很美,32岁要冲冠了

恩比德带娇妻度假,3亿合同还剩3年,超模很美,32岁要冲冠了

大西体育
2026-09-02 11:14:25
今晚,广州全市夜查!

今晚,广州全市夜查!

新快报新闻
2026-09-02 18:33:49
网传内卷的风已刮到大学,同济大量教师被转岗...

网传内卷的风已刮到大学,同济大量教师被转岗...

慧翔百科
2026-08-31 08:38:34
胃热是光吃不拉,脾虚是一吃就拉,肝郁是不停放屁,中医一招调理

胃热是光吃不拉,脾虚是一吃就拉,肝郁是不停放屁,中医一招调理

垚垚分享健康
2026-04-29 11:24:29
CCTV5直播,中国男篮VS哈萨斯坦,杨瀚森2将缺阵,张镇麟无缘征召

CCTV5直播,中国男篮VS哈萨斯坦,杨瀚森2将缺阵,张镇麟无缘征召

体坛小快灵
2026-09-02 09:56:51
2026-09-02 23:19:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16091文章数 67023关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

章泽天专访何超琼 后者辟谣"赌王传言"公开成长经历

头条要闻

章泽天专访何超琼 后者辟谣"赌王传言"公开成长经历

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

配双腔空悬+机械差速锁 传祺越7预售权益价17.18万起

态度原创

手机
旅游
房产
游戏
公开课

手机要闻

苹果新CEO上任首日就被“打脸”?充电头传闻炸锅,iPhone Ultra折叠机或许要卖爆了

旅游要闻

忻州荷花开 遍地是吾乡

房产要闻

新四代住宅 新样板间开放丨以艺术之名 赴一场迭代之约

索尼发行的JRPG!PSP经典重制重大变动:工作室换了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版