网易首页 > 网易号 > 正文 申请入驻

2.5倍写入提速:给AI智能体装上语义记忆,不用向量库

0
分享至

给一个无服务器AI智能体加上持久、基于含义的记忆,可以用DynamoDB原生的向量搜索配合Amazon Bedrock的嵌入模型,不需要专门的向量数据库,也不需要同步管道。在这套演示里,嵌入向量就存在条目旁边,一次PutItem同时写入两者,按含义检索只需要一次SearchVectors调用。在us-east-1实测对比,这条原生路径的写入速度约为S3 Vectors的2.5倍,搜索(p50)约为1.4倍——这是针对智能体热路径记忆的测量结果。

智能体为什么会"失忆"


问题出在会话之间。你问一个刚创建的智能体,上一个智能体被告知过的某个信息,它从没见过那段对话,自然无从回答。它会去调用工具,找不到东西,最后请你再说一遍。这是一次真实运行的结果:用户询问生产集群的名称和区域,工具返回的是"能否提供保存生产集群详情的引用或上下文键"。任何在AWS Lambda上跑智能体的人都会撞上这个问题——容器在两次调用之间就没了,每一轮实际上都是一个全新的智能体。

要修好"遗忘",先得意识到这是三个不同的问题,各有各的生命周期。把它们混在一起,就会出现"记住了不该记的、忘了该记的"这种bug。

用助理来打比方:state是桌上的便利贴,session是今天这场会的笔记本,长期记忆则是助理真的记得你偏好早上部署,哪怕过了几周、哪怕你换了说法。Strands Harness(已经组装好的智能体构造器create_harness)正好暴露了两个开关:一个用来恢复当前这段对话,一个用来在所有运行之间携带数据。两者是正交的——session能扛过Lambda的销毁,记忆则能扛过一切,包括那些没有任何共同词汇的对话。

向量和条目住在一起

DynamoDB向量搜索的关键在于,向量就存在条目旁边。一张表既是你的业务存储,也是你的向量索引,不需要第二个服务。

第一步是建表时就声明向量索引,而不是事后添加。往已有条目的表上加索引会触发回填,这个回填是要按真实时间付费的。声明索引时有两个字段必须对齐,否则搜索会静默地返回无用结果:Dimensions必须等于嵌入模型的输出维度(Titan V2为1024),DistanceFunction必须和你生成向量的方式一致(单位长度嵌入用COSINE)。另外,按需计费模式对向量索引是强制的。

建表脚本跑完后,DescribeTable报告ACTIVE是必要但不充分的——搜索端点可能还在滞后。脚本的做法是在重试循环里发一次真实的SearchVectors调用,所以当它打印出"searchable on attempt N"时,索引是真的能服务查询了。

第二步是把文本转成向量。DynamoDB负责存储和搜索向量,但不负责生成向量,这部分由你的代码调用Bedrock完成。嵌入辅助函数调用Titan V2模型,传入文本、维度和归一化开关,返回一个浮点数列表。归一化会产出单位长度的向量,这正是前面选择COSINE距离函数的前提。

把这两步接起来,智能体的记忆就不再依赖一张单独的向量库表,也不需要额外的同步管道。写入时向量随条目一起落库,检索时按含义一次调用取回。对于跑在Lambda上、每轮都可能是新实例的智能体来说,这条路径把"记忆"从一件需要额外基础设施的事,变成了表结构里的一列。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
李乐成、王东伟看望正省级老同志

李乐成、王东伟看望正省级老同志

政知新媒体
2026-09-25 21:47:45
香港证监会:可能延长股市交易时段非正式通知内地,取消午间休市

香港证监会:可能延长股市交易时段非正式通知内地,取消午间休市

风风顺
2026-09-26 00:00:11
孙颖莎称赞张本美和,实力和国乒伯仲之间,中泽锐称赞早田希娜

孙颖莎称赞张本美和,实力和国乒伯仲之间,中泽锐称赞早田希娜

子水体娱
2026-09-26 01:45:07
特朗普准时签字,禁止中国买俄油,否则加税100%,到底买不买?

特朗普准时签字,禁止中国买俄油,否则加税100%,到底买不买?

和风聊历史
2026-09-25 22:19:25
中南大学一餐20元,新生心疼哭!打电话跟家长诉苦,说食堂饭菜太贵,引发热议

中南大学一餐20元,新生心疼哭!打电话跟家长诉苦,说食堂饭菜太贵,引发热议

火山詩话
2026-09-23 08:06:06
哈兰德与女友长相出众,女友长得像洋娃娃,十分登对,浪漫幸福

哈兰德与女友长相出众,女友长得像洋娃娃,十分登对,浪漫幸福

娱你同欢
2026-08-30 18:30:43
我国现存古老的毒蛇!毒性极强,全球范围内没有血清,也是最让人头疼的蛇,擅长绝食,遇到千万别碰!

我国现存古老的毒蛇!毒性极强,全球范围内没有血清,也是最让人头疼的蛇,擅长绝食,遇到千万别碰!

农夫也疯狂
2026-09-25 10:35:00
俄军“闪电”无人机供应链曝光:11家中国企业未遭制裁

俄军“闪电”无人机供应链曝光:11家中国企业未遭制裁

桂系007
2026-09-26 03:13:00
你见过最奇葩的抵债方式是啥?网友:老丈人被顶了一件香烟,给我五十条

你见过最奇葩的抵债方式是啥?网友:老丈人被顶了一件香烟,给我五十条

带你感受人间冷暖
2026-09-26 00:05:27
联合国193个成员国中仅50国支持涉乌克兰反俄声明

联合国193个成员国中仅50国支持涉乌克兰反俄声明

俄罗斯卫星通讯社
2026-09-24 15:33:41
抖音网红表妹李KK塌房,彻底玩完

抖音网红表妹李KK塌房,彻底玩完

新浪财经
2026-06-23 00:08:03
民心不可欺,民意不可违!谁糊弄老百姓,最终都会无路可走

民心不可欺,民意不可违!谁糊弄老百姓,最终都会无路可走

娱乐圈见解说
2026-09-25 00:48:29
从犯规落后到破纪录夺冠,严子怡用68米42的成绩完成自我救赎。

从犯规落后到破纪录夺冠,严子怡用68米42的成绩完成自我救赎。

奔跑的象牙塔
2026-09-07 00:05:16
张本美和飘了,赛后阴阳怪气,她说,不知道为什么和我打比赛的对手,总是莫名其妙的叫医疗暂停,我都习惯了!

张本美和飘了,赛后阴阳怪气,她说,不知道为什么和我打比赛的对手,总是莫名其妙的叫医疗暂停,我都习惯了!

乒乓乐园
2026-08-10 00:04:07
部分民族英雄被教材移除,地摊“民族英雄”却受吹捧,这该反思吗?

部分民族英雄被教材移除,地摊“民族英雄”却受吹捧,这该反思吗?

磊子讲史
2026-09-23 14:55:23
米兰第二弹:杨紫脸肿萝卜腿,杨颖美得不费力,郭宇欣高级脸惊艳

米兰第二弹:杨紫脸肿萝卜腿,杨颖美得不费力,郭宇欣高级脸惊艳

梦醉为红颜一笑
2026-09-24 19:01:05
即将加盟Project B 联赛!前女篮国手李梦社媒晒照:大家中秋快乐

即将加盟Project B 联赛!前女篮国手李梦社媒晒照:大家中秋快乐

狼叔评论
2026-09-25 15:08:05
大哥凌晨2点突发急病走了,爸妈哭着催我赶紧买票回去,我刚出票手机就震了一下,看到那条短信我浑身发抖

大哥凌晨2点突发急病走了,爸妈哭着催我赶紧买票回去,我刚出票手机就震了一下,看到那条短信我浑身发抖

晓艾故事汇
2026-09-13 16:20:13
学习快评丨共同浇灌中美友谊的美丽花朵

学习快评丨共同浇灌中美友谊的美丽花朵

新华社
2026-09-25 17:38:07
中秋利好,欧美大涨

中秋利好,欧美大涨

中国基金报
2026-09-25 16:42:37
2026-09-26 06:19:00
字节漫游指南
字节漫游指南
有态度网友ytd
211文章数 120关注度
往期回顾 全部

科技要闻

华为赛力斯,一次声势浩大的权、利再分配

头条要闻

特朗普:这次访问富有成效

头条要闻

特朗普:这次访问富有成效

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

好甜!井柏然刘雯结伴看李荣浩演唱会

财经要闻

月饼卖不动了...

汽车要闻

小鹏G9L VS 保时捷卡宴,同场实测讲解

态度原创

健康
亲子
数码
家居
军事航空

鼻子三角区的痘,千万别乱挤!

亲子要闻

周口广电小主持人“原来月亮有这么多名字”

数码要闻

苹果单核封神却遭偷家!玄戒O3多核狂屠全场,高通这次真挤牙膏了?

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

联大伊朗代表席摆着苏莱曼尼遗像

无障碍浏览 进入关怀版