网易首页 > 网易号 > 正文 申请入驻

RAG分块策略修正:语义与LLM切分表述

0
分享至

```html

做RAG的工程师大概都经历过这种时刻:检索结果明明召回了相关文档,模型答出来的东西却驴唇不对马嘴。问题往往不在模型,而在切分。同一份文档,切法不同,检索质量能差出一截。


有人把常见的分块策略整理成了8条,从最省事的固定切分,到最烧钱的LLM改写,逐条过一遍。

1. 固定大小切分

每隔固定数量的token切一刀,块与块之间留一点重叠。实现最简单,也最不挑文档类型。代价是它完全不看内容结构,一句话可能被拦腰截断,语义边界形同虚设。

2. 递归切分

先按段落切,某一段还是太大就退到按行切,再不行退到按词、按字符。层层降级,直到每块都落在阈值以内。比固定切分多了一点结构意识,但本质仍是按长度办事。

3. 基于文档结构切分

文档本身已经标好了断点——标题、章节、HTML标签,就顺着这些标记切。一份markdown文件,每个小节自然成为一块。这种切法尊重作者原本的组织方式,前提是文档得有结构。

4. 语义切分

把每个句子做embedding,算它和上一句的相似度,相似度一掉就开新块。它找的是真实的话题转折,而不是靠长度猜。

5. 基于LLM切分

让大模型把文本改写成一条条独立的命题,一行一个想法,每行成为一块。质量确实高,但整个语料库跑一遍,账单也很可观。

6. 智能体切分

让一个AI agent先读文档,判断它是代码、合同还是表格,再为这个文件挑合适的切分方法。不再是一套规则套所有文件,而是按文件类型分别决策。

7. 后置分块

先把整篇文档过一遍embedding模型,再套用常规的切分边界,在每个边界内做均值池化,生成块的向量表示。切分动作发生在向量化之后,而不是之前。

8. 层级切分

把文档拆成层:章节、段落、句子,一层套一层。检索时可以在不同粒度上做文章,粗层看全局,细层抠细节。

这8种策略摆在一起,其实是一条成本与质量的连续光谱。固定切分几乎零成本,语义切分要为每句话付一次embedding,LLM切分则直接把大模型请进了预处理流水线。选哪个,取决于语料规模、文档结构和预算三者的平衡。

真正落地时,多数团队不会只押一种。代码库可能走结构切分,合同走语义切分,杂乱的网页正文退回固定切分加重叠。分块从来不是一劳永逸的配置项,而是跟着数据形态走的工程决策。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

搞机小帝
2026-10-18 22:30:25
狂轰77分27板21助!76人四巨头爆发,大帝梦回巅峰,一战认清5现实

狂轰77分27板21助!76人四巨头爆发,大帝梦回巅峰,一战认清5现实

篮球扫地僧
2026-10-18 15:54:07
开门红!辽宁男篮11分力克山东,库珀22+5+8爱德华兹17分,班顿16中4

开门红!辽宁男篮11分力克山东,库珀22+5+8爱德华兹17分,班顿16中4

中国篮坛快讯
2026-10-18 21:38:56
蒋丽莎点评林志玲长相变化太大:面部饱满偏幼态,卧蚕消失辨识度降低,像换了一个人

蒋丽莎点评林志玲长相变化太大:面部饱满偏幼态,卧蚕消失辨识度降低,像换了一个人

韩小娱
2026-10-16 16:41:59
林彪曾提议枪毙许世友,几十年后身份互换,许世友负责抓捕林彪!

林彪曾提议枪毙许世友,几十年后身份互换,许世友负责抓捕林彪!

历史龙元阁
2026-10-18 14:25:15
仰天怒吼+朝球迷比心!安洗莹丹麦夺冠又造历史首人纪录 赛季61胜1负

仰天怒吼+朝球迷比心!安洗莹丹麦夺冠又造历史首人纪录 赛季61胜1负

颜小白的篮球梦
2026-10-18 22:25:49
阿森纳客场偷走三分,疲惫之师赌命欧冠!能赢拜仁就自圆其说!

阿森纳客场偷走三分,疲惫之师赌命欧冠!能赢拜仁就自圆其说!

英超德甲才疯狂
2026-10-19 06:56:16
宣布早已生子!结婚前夕患病,马上雪卵成功怀孕!今还想生二胎!

宣布早已生子!结婚前夕患病,马上雪卵成功怀孕!今还想生二胎!

美芽
2026-10-16 12:38:27
机关事业退休全部补贴明细、职级、年龄、标准一次性讲清楚

机关事业退休全部补贴明细、职级、年龄、标准一次性讲清楚

娱乐洞察点点
2026-10-18 17:35:56
广东宏远首战就暴露出不少问题,麦考尔20+带领广州龙狮战胜浙江稠州!

广东宏远首战就暴露出不少问题,麦考尔20+带领广州龙狮战胜浙江稠州!

廣東篮球掂
2026-10-18 23:54:49
CBA疯狂一夜,3场爆冷,1场惊天大逆转,3支非季后赛球队掀翻劲旅

CBA疯狂一夜,3场爆冷,1场惊天大逆转,3支非季后赛球队掀翻劲旅

南海浪花
2026-10-18 06:20:16
他披上那面旗的时候,就已经没有“不知道”这条路了

他披上那面旗的时候,就已经没有“不知道”这条路了

白浅娱乐聊
2026-10-18 13:12:28
亨德森:我仍能在最高水平踢球,会继续争取入选英格兰队

亨德森:我仍能在最高水平踢球,会继续争取入选英格兰队

懂球帝
2026-10-19 06:21:09
民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

百科密码
2026-08-31 10:02:15
北控欲掀翻上海,斩获两连胜,杀招已就位

北控欲掀翻上海,斩获两连胜,杀招已就位

体育篮球弟
2026-10-19 04:31:44
庄宇珊18分迎联赛首胜!朱婷一锤定音豪取4连胜,孙杰3场得分王

庄宇珊18分迎联赛首胜!朱婷一锤定音豪取4连胜,孙杰3场得分王

排球黄金眼
2026-10-19 01:47:36
被美坑惨了?马科斯强硬路线破产,萨拉强势碾压,马科斯败局已定

被美坑惨了?马科斯强硬路线破产,萨拉强势碾压,马科斯败局已定

揽星戈
2026-10-19 06:41:58
为什么西红柿越来越难吃了?科学家研究4年,发现是西红柿变了

为什么西红柿越来越难吃了?科学家研究4年,发现是西红柿变了

云霄纪史观
2026-10-18 12:30:34
申花又一名锋线新星爆发,猜猜进球前米帅对韩嘉文说了什么

申花又一名锋线新星爆发,猜猜进球前米帅对韩嘉文说了什么

上观新闻
2026-10-19 05:19:28
纪委核查通讯记录的高明手段,很多人直到落马都不知道哪暴露了

纪委核查通讯记录的高明手段,很多人直到落马都不知道哪暴露了

职场资深秘书
2026-10-18 14:34:51
2026-10-19 07:51:00
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
168文章数 82关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗的中国留学生是南京人 疑多次表态支持"台独"

头条要闻

披旭日旗的中国留学生是南京人 疑多次表态支持"台独"

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

家居
教育
游戏
艺术
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

历史可以打量,符号不能上身!莫大南京留学生被网友抨击,任何时候,这个底线必须要坚守

亚马逊实体预购数据:时之笛重制力压GTA6

艺术要闻

不敢信这是画的!比利时大师的女性油画,逼真程度突破认知

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版