网易首页 > 网易号 > 正文 申请入驻

RAG分块策略修正:语义与LLM切分表述

0
分享至

```html

做RAG的工程师大概都经历过这种时刻:检索结果明明召回了相关文档,模型答出来的东西却驴唇不对马嘴。问题往往不在模型,而在切分。同一份文档,切法不同,检索质量能差出一截。


有人把常见的分块策略整理成了8条,从最省事的固定切分,到最烧钱的LLM改写,逐条过一遍。

1. 固定大小切分

每隔固定数量的token切一刀,块与块之间留一点重叠。实现最简单,也最不挑文档类型。代价是它完全不看内容结构,一句话可能被拦腰截断,语义边界形同虚设。

2. 递归切分

先按段落切,某一段还是太大就退到按行切,再不行退到按词、按字符。层层降级,直到每块都落在阈值以内。比固定切分多了一点结构意识,但本质仍是按长度办事。

3. 基于文档结构切分

文档本身已经标好了断点——标题、章节、HTML标签,就顺着这些标记切。一份markdown文件,每个小节自然成为一块。这种切法尊重作者原本的组织方式,前提是文档得有结构。

4. 语义切分

把每个句子做embedding,算它和上一句的相似度,相似度一掉就开新块。它找的是真实的话题转折,而不是靠长度猜。

5. 基于LLM切分

让大模型把文本改写成一条条独立的命题,一行一个想法,每行成为一块。质量确实高,但整个语料库跑一遍,账单也很可观。

6. 智能体切分

让一个AI agent先读文档,判断它是代码、合同还是表格,再为这个文件挑合适的切分方法。不再是一套规则套所有文件,而是按文件类型分别决策。

7. 后置分块

先把整篇文档过一遍embedding模型,再套用常规的切分边界,在每个边界内做均值池化,生成块的向量表示。切分动作发生在向量化之后,而不是之前。

8. 层级切分

把文档拆成层:章节、段落、句子,一层套一层。检索时可以在不同粒度上做文章,粗层看全局,细层抠细节。

这8种策略摆在一起,其实是一条成本与质量的连续光谱。固定切分几乎零成本,语义切分要为每句话付一次embedding,LLM切分则直接把大模型请进了预处理流水线。选哪个,取决于语料规模、文档结构和预算三者的平衡。

真正落地时,多数团队不会只押一种。代码库可能走结构切分,合同走语义切分,杂乱的网页正文退回固定切分加重叠。分块从来不是一劳永逸的配置项,而是跟着数据形态走的工程决策。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网友:没有双手扶膝的佛像,乐山大佛是“大禹像改佛像”!真相是什么?

网友:没有双手扶膝的佛像,乐山大佛是“大禹像改佛像”!真相是什么?

言过于诚
2026-10-18 21:44:59
发现了个特别的现象:电车没有干掉油车,但干掉了汽车修理厂!

发现了个特别的现象:电车没有干掉油车,但干掉了汽车修理厂!

铭记历史呀
2026-10-16 02:54:22
80场75球!美媒:梅西是外星人!还差64球,创“美职联”多项第1

80场75球!美媒:梅西是外星人!还差64球,创“美职联”多项第1

汪星人哟
2026-10-18 11:38:18
刚刚,“小孩姐”陈妤颉回应参加校运会!被网友调侃校运会纪录难以打破

刚刚,“小孩姐”陈妤颉回应参加校运会!被网友调侃校运会纪录难以打破

三衢
2026-10-18 17:15:29
上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

情感大头说说
2026-10-17 04:30:28
麻烦大了!伊朗总统无意间泄露绝密:美以轰炸致上千名导弹兵死亡

麻烦大了!伊朗总统无意间泄露绝密:美以轰炸致上千名导弹兵死亡

井普独白
2026-10-17 15:29:22
立刻停止食用这些粗粮,吃得越多,肠癌风险越高?医生告诉你真相

立刻停止食用这些粗粮,吃得越多,肠癌风险越高?医生告诉你真相

任医生聊健康
2026-10-17 15:05:12
外网大型翻车!印度网友拼命抹黑中国,奈何造假水平实在太粗糙

外网大型翻车!印度网友拼命抹黑中国,奈何造假水平实在太粗糙

行者聊官
2026-10-18 10:09:49
不是装的!马斯克无奈承认自己“病得相当严重”,一年发作约6次

不是装的!马斯克无奈承认自己“病得相当严重”,一年发作约6次

霁寒飘雪
2026-10-18 09:32:53
薄一波究竟属于哪一级别?是正国级,还是副国级?

薄一波究竟属于哪一级别?是正国级,还是副国级?

人生录
2026-10-15 05:18:24
未来国足边锋太可怕!李昊炎3场进6球,布尼亚明昨晚中超再爆发

未来国足边锋太可怕!李昊炎3场进6球,布尼亚明昨晚中超再爆发

邱泽云
2026-10-18 15:34:06
卸任3年后被查!从国务院津贴专家到“阶下囚”:象牙塔里的“学官”腐败,寒了谁的心?

卸任3年后被查!从国务院津贴专家到“阶下囚”:象牙塔里的“学官”腐败,寒了谁的心?

教师吧
2026-10-17 13:40:30
雷克萨斯ES200给到12.59万,曾经30多万落地,如今还剩多少底气!

雷克萨斯ES200给到12.59万,曾经30多万落地,如今还剩多少底气!

沙雕小琳琳
2026-10-17 00:14:28
养老金发布会落幕!没涨,但传来一个好消息

养老金发布会落幕!没涨,但传来一个好消息

江启
2026-10-17 15:18:41
一人毁了整部剧!央视《嫁金钗》遭恶评,这个'戏混子'担大责任!

一人毁了整部剧!央视《嫁金钗》遭恶评,这个'戏混子'担大责任!

仙味少女心
2026-10-17 21:32:00
跑过社保局才明白:灵活就业办退休,卡的不是证件,是这5点!

跑过社保局才明白:灵活就业办退休,卡的不是证件,是这5点!

爱下厨的阿酾
2026-10-18 14:07:59
最强反腐来了!中纪委:2026坚决清除害群之马,贪官末路到了!

最强反腐来了!中纪委:2026坚决清除害群之马,贪官末路到了!

职场资深秘书
2026-10-17 15:24:47
荷兰突然下场,不限制ASML光刻机对华出口,但对另一国家痛下狠手

荷兰突然下场,不限制ASML光刻机对华出口,但对另一国家痛下狠手

疯狂小菠萝
2026-10-18 14:16:11
火箭队连裁3人!防守型前锋加盟3天,再次离队!阵容仅剩18人

火箭队连裁3人!防守型前锋加盟3天,再次离队!阵容仅剩18人

熊哥爱篮球
2026-10-18 17:48:02
山东男篮不敌辽篮的背后:邱彪引援再次看走眼,高诗岩成为赢家

山东男篮不敌辽篮的背后:邱彪引援再次看走眼,高诗岩成为赢家

姜大叔侃球
2026-10-18 22:02:53
2026-10-18 23:00:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
227文章数 82关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

1岁男童误食邻居投毒的鸡蛋进ICU 警方:检出两种鼠药

头条要闻

1岁男童误食邻居投毒的鸡蛋进ICU 警方:检出两种鼠药

体育要闻

别在我的地盘夺冠!上海海港11场不败,队史首次主客双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

艺术
手机
健康
公开课
军事航空

艺术要闻

17幅 俄罗斯当代画家Ksenya Istomina作品

手机要闻

苹果20周年版iPhone参考iPhone Air?曲屏设计再确认

看着很健康的人,怎么会突然猝死?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版