网易首页 > 网易号 > 正文 申请入驻

2.5倍写入提速:给AI智能体装上语义记忆,不用向量库

0
分享至

给一个无服务器AI智能体加上持久、基于含义的记忆,可以用DynamoDB原生的向量搜索配合Amazon Bedrock的嵌入模型,不需要专门的向量数据库,也不需要同步管道。在这套演示里,嵌入向量就存在条目旁边,一次PutItem同时写入两者,按含义检索只需要一次SearchVectors调用。在us-east-1实测对比,这条原生路径的写入速度约为S3 Vectors的2.5倍,搜索(p50)约为1.4倍——这是针对智能体热路径记忆的测量结果。

智能体为什么会"失忆"


问题出在会话之间。你问一个刚创建的智能体,上一个智能体被告知过的某个信息,它从没见过那段对话,自然无从回答。它会去调用工具,找不到东西,最后请你再说一遍。这是一次真实运行的结果:用户询问生产集群的名称和区域,工具返回的是"能否提供保存生产集群详情的引用或上下文键"。任何在AWS Lambda上跑智能体的人都会撞上这个问题——容器在两次调用之间就没了,每一轮实际上都是一个全新的智能体。

要修好"遗忘",先得意识到这是三个不同的问题,各有各的生命周期。把它们混在一起,就会出现"记住了不该记的、忘了该记的"这种bug。

用助理来打比方:state是桌上的便利贴,session是今天这场会的笔记本,长期记忆则是助理真的记得你偏好早上部署,哪怕过了几周、哪怕你换了说法。Strands Harness(已经组装好的智能体构造器create_harness)正好暴露了两个开关:一个用来恢复当前这段对话,一个用来在所有运行之间携带数据。两者是正交的——session能扛过Lambda的销毁,记忆则能扛过一切,包括那些没有任何共同词汇的对话。

向量和条目住在一起

DynamoDB向量搜索的关键在于,向量就存在条目旁边。一张表既是你的业务存储,也是你的向量索引,不需要第二个服务。

第一步是建表时就声明向量索引,而不是事后添加。往已有条目的表上加索引会触发回填,这个回填是要按真实时间付费的。声明索引时有两个字段必须对齐,否则搜索会静默地返回无用结果:Dimensions必须等于嵌入模型的输出维度(Titan V2为1024),DistanceFunction必须和你生成向量的方式一致(单位长度嵌入用COSINE)。另外,按需计费模式对向量索引是强制的。

建表脚本跑完后,DescribeTable报告ACTIVE是必要但不充分的——搜索端点可能还在滞后。脚本的做法是在重试循环里发一次真实的SearchVectors调用,所以当它打印出"searchable on attempt N"时,索引是真的能服务查询了。

第二步是把文本转成向量。DynamoDB负责存储和搜索向量,但不负责生成向量,这部分由你的代码调用Bedrock完成。嵌入辅助函数调用Titan V2模型,传入文本、维度和归一化开关,返回一个浮点数列表。归一化会产出单位长度的向量,这正是前面选择COSINE距离函数的前提。

把这两步接起来,智能体的记忆就不再依赖一张单独的向量库表,也不需要额外的同步管道。写入时向量随条目一起落库,检索时按含义一次调用取回。对于跑在Lambda上、每轮都可能是新实例的智能体来说,这条路径把"记忆"从一件需要额外基础设施的事,变成了表结构里的一列。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
梅拉尼娅罕见表态:和20岁儿子巴伦的家庭时间"越来越少"

梅拉尼娅罕见表态:和20岁儿子巴伦的家庭时间"越来越少"

热搜摘要官
2026-09-25 03:52:11
教育部回应“13岁于子迪亚运泳池连夺两金”:我们觉得这是一件非常了不起的事情

教育部回应“13岁于子迪亚运泳池连夺两金”:我们觉得这是一件非常了不起的事情

极目新闻
2026-09-23 12:19:13
八国发声明,阻挠统一后,解放军有大动作,吓坏赖清德,不简单

八国发声明,阻挠统一后,解放军有大动作,吓坏赖清德,不简单

DS北风
2026-09-25 08:50:05
全红婵新家广告位太多引热议!四面八方全是广告牌,粉丝却力挺

全红婵新家广告位太多引热议!四面八方全是广告牌,粉丝却力挺

二哥聊球
2026-09-24 11:07:36
男子炮轰中国部分媒体!拿中国长处贬低他国短处,中国不是天堂,外国也不是地狱

男子炮轰中国部分媒体!拿中国长处贬低他国短处,中国不是天堂,外国也不是地狱

小徐讲八卦
2026-09-13 07:40:07
全球震动!哈佛研究证实:中国不是崛起,而是正在慢慢回归

全球震动!哈佛研究证实:中国不是崛起,而是正在慢慢回归

叹为观止易
2026-09-24 17:14:28
王玉雯回应与杨玏的五年感情,并否认隐婚,这次她把分手原因说清楚了:他们俩的规划不同,一个想要稳定,一个要奋斗

王玉雯回应与杨玏的五年感情,并否认隐婚,这次她把分手原因说清楚了:他们俩的规划不同,一个想要稳定,一个要奋斗

一盅情怀
2026-09-24 13:33:02
中秋节,佟丽娅、高露、董璇、张维伊、阿那亚吃韩国料理被偶遇!

中秋节,佟丽娅、高露、董璇、张维伊、阿那亚吃韩国料理被偶遇!

李橑在北漂
2026-09-25 20:54:00
导演冯小刚回应此前言论风波,坦言:“我很对不起投资方,现在这样有担当的投资方越来越少了”

导演冯小刚回应此前言论风波,坦言:“我很对不起投资方,现在这样有担当的投资方越来越少了”

韩小娱
2026-09-24 06:17:06
产量暴跌70%!中秋卖不动的不只是白酒,更是一个时代的落幕

产量暴跌70%!中秋卖不动的不只是白酒,更是一个时代的落幕

白浅娱乐聊
2026-09-25 01:43:15
理记:拿“国家大事”当遮羞布的,不是蠢就是坏

理记:拿“国家大事”当遮羞布的,不是蠢就是坏

迷世书童
2026-09-23 15:48:17
德安吉洛·拉塞尔被灰熊队裁掉成自由球员,想加入强队进季后赛

德安吉洛·拉塞尔被灰熊队裁掉成自由球员,想加入强队进季后赛

好火子
2026-09-26 03:47:29
iOS 27苹果地图加了两项功能,一个比一个实用

iOS 27苹果地图加了两项功能,一个比一个实用

碳基打工人
2026-09-25 04:09:28
哈佛研究发现:3种颜色是“抑郁色”,若孩子喜欢,家长需谨慎

哈佛研究发现:3种颜色是“抑郁色”,若孩子喜欢,家长需谨慎

户外阿毽
2026-09-23 15:23:41
男人一天最多能几次?别盲目逞强!医生曝出透支上限,多数人都超了

男人一天最多能几次?别盲目逞强!医生曝出透支上限,多数人都超了

荔子言
2026-08-26 15:20:06
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
钱,在权力面前一文不值!顶多就是一棵韭菜

钱,在权力面前一文不值!顶多就是一棵韭菜

卷史
2025-09-16 14:17:46
算是踢到铁板了!这届日本亚运会,给全世界好好上了一课:没有中国,生意很难做

算是踢到铁板了!这届日本亚运会,给全世界好好上了一课:没有中国,生意很难做

扶苏聊历史
2026-09-10 14:58:19
北理工助理教授裴秩学历曝光!海外低排名的水硕,荒唐而又可笑

北理工助理教授裴秩学历曝光!海外低排名的水硕,荒唐而又可笑

小徐讲八卦
2026-09-24 09:14:15
嗨乐影视公开喊话范冰冰、范丞丞还钱:《巴清传》千万元投资款因范冰冰税务风波爆发全部打水漂,法院判罚的6700万元违约金一分钱没拿到

嗨乐影视公开喊话范冰冰、范丞丞还钱:《巴清传》千万元投资款因范冰冰税务风波爆发全部打水漂,法院判罚的6700万元违约金一分钱没拿到

东方不败然多多
2026-09-25 01:16:58
2026-09-26 08:07:02
字节漫游指南
字节漫游指南
有态度网友ytd
213文章数 120关注度
往期回顾 全部

科技要闻

华为赛力斯,一次声势浩大的权、利再分配

头条要闻

景区招18个"野人"600人疯抢:有阿姨58岁才第一次上班

头条要闻

景区招18个"野人"600人疯抢:有阿姨58岁才第一次上班

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

好甜!井柏然刘雯结伴看李荣浩演唱会

财经要闻

月饼卖不动了...

汽车要闻

小鹏G9L VS 保时捷卡宴,同场实测讲解

态度原创

家居
教育
房产
时尚
游戏

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

姚洋:孩子上职高不可怕,怕的是几年下来没学到真本事

房产要闻

全年霸榜TOP1!南海・叁號院周年官宣:新作即将登场

怎么度过这个夜晚,才算不辜负这轮明月?

《生化9》收入或破5亿美元 Xbox版销量占比为8.6%

无障碍浏览 进入关怀版