网易首页 > 网易号 > 正文 申请入驻

PDF表格一进RAG就幻觉?问题出在扁平化

0
分享至

企业里大量知识藏在PDF表格里,但标准RAG(检索增强生成)流水线一碰到它们就翻车。不是模型不够聪明,而是预处理阶段就把表格的网格结构摧毁了——行与列的交叉关系一旦被压成纯文本,LLM看到的只是一串无结构的数值流,幻觉几乎是必然结果。

这篇文章提出了一套诊断框架和五个可组合的操作,核心思路很直接:把表格当作原生结构化数据来对待,而不是装饰性文本。作者认为,正确做法不是把表格作为文本处理得更好,而是在尽可能早的阶段将其恢复为结构化形式,此后一律当作数据处理。


四个表示层级,匹配不同问题形状

作者定义了四个表示层级,让调度器能把结构与实际问题的形状匹配起来。Level A是按行Markdown,足以应对大多数问题——像散文一样叙述的表格,直接从行里检索答案就行。Level B是独立DataFrame,在需要二维操作(比如跨页拼接或列投影)时使用。

Level C把频繁出现、schema稳定的表格提升为可SQL查询的列式存储,支持语料库级问题。Level D则是schema无法规范化时的诚实回退方案。四个层级各有适用场景,调度器根据诊断结果决定走哪条路。

五字段诊断,替代脆弱决策树

诊断系统为每个表格记录五个正交属性:解析质量(完美/部分/失败)、规模(行×列对)、表头状态(存在/缺失/续表)、跨页连续性(独立/自第N页续/延续至第M页)、文档级表格文字比。每个字段单独记录,调度器读取全部五个字段后,幂等地组合操作。

比如一个部分解析+续表+大表格的组合,会依次执行结构重建、多页拼接、问题驱动投影。这种设计避免了脆弱的决策树逻辑,每个字段独立记录,组合方式确定且可预测。

解析器的选择,分量不亚于操作的选择

文章强调了一个容易被忽视的点:同一页面经不同解析器处理后,可能落入完全不同的诊断桶。在《Attention Is All You Need》论文的超参数表格上,Fitz将13列坍塌为3个单元格,而Azure Document Intelligence干净地恢复了全部13列。

这意味着解析器选错了,后续操作再优化也白搭。作者建议先用廉价解析器,仅对困难表格升档——这个策略吸收了操作本会重复完成的工作,避免了不必要的计算开销。

五个可组合操作,覆盖完整升级路径

五个操作都是幂等的,无论以何种顺序组合都安全有效。O1从词级包围盒重建网格,处理部分解析;O2通过表头传播拼接多页续表;O3在检索前根据问题范围对表格进行投影和过滤;O4将频繁表格提升到列式存储以支持SQL查询;O5在万不得已时将表格区域渲染为图像供视觉LLM提取。

O5被刻意保留为高成本回退方案——只有当其他操作都失败时才启用。这种分层设计让系统在大多数情况下走廉价路径,只在真正困难时升级。

真实案例:从NIST到世界银行

文章用真实案例验证了这套框架。NIST网络安全框架PDF和世界银行CMO表格都展示了不同层级的处理效果。像"财产险的免赔额是多少"这样的问题,直接从Markdown行获取答案,像任何其他行一样检索、引用——混合内容文档中的大部分表格到这里就结束了。

这套方案的核心价值在于:它承认表格是布局产物而非数据结构,但拒绝接受"扁平化是唯一出路"的现状。通过诊断驱动操作组合,在最合适的抽象层级保留表格结构,让RAG系统在表格场景下也能给出可靠答案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
会哭的孩子有奶吃,体育局妥协,刘翔新职为莘庄田径基地技术顾问

会哭的孩子有奶吃,体育局妥协,刘翔新职为莘庄田径基地技术顾问

姜大叔侃球
2026-09-03 20:37:46
39岁梅西宣布亲手终结GOAT之争!C罗密友怒斥:狂妄 厚颜无耻

39岁梅西宣布亲手终结GOAT之争!C罗密友怒斥:狂妄 厚颜无耻

念洲
2026-09-03 09:32:43
如果在美英售卖甲醛白菜,会被处以什么刑罚?

如果在美英售卖甲醛白菜,会被处以什么刑罚?

律法刑道
2026-09-03 18:53:47
新进展!武大女教授被举报事件:其父目前已调任安大副校长,武大已介入调查,细节曝光

新进展!武大女教授被举报事件:其父目前已调任安大副校长,武大已介入调查,细节曝光

子非鱼人
2026-09-04 00:04:43
杭州知名炒货店老板方林富去世,享年56岁,在杭州亲力亲为开炒货店37年,大家称他:本土炒货界的守夜人

杭州知名炒货店老板方林富去世,享年56岁,在杭州亲力亲为开炒货店37年,大家称他:本土炒货界的守夜人

极目新闻
2026-09-03 21:00:19
“林肯”号,“令人震惊”!

“林肯”号,“令人震惊”!

环球时报国际
2026-09-03 18:48:53
牛鬼蛇神现原形,于东来公开为韩红发声不到24小时,不堪一幕上演

牛鬼蛇神现原形,于东来公开为韩红发声不到24小时,不堪一幕上演

离离言几许
2026-09-03 02:12:58
上海多家银行明确:1991年前生人不能新办理40年期房贷

上海多家银行明确:1991年前生人不能新办理40年期房贷

财联社
2026-09-03 14:38:03
经济学家朱嘉明:发钱当然能提振消费,但要解决居民消费预期问题

经济学家朱嘉明:发钱当然能提振消费,但要解决居民消费预期问题

每日经济新闻
2026-09-03 22:30:08
一些人表示:新闻联播都快看不懂了,里面出现了大量专业的新词汇

一些人表示:新闻联播都快看不懂了,里面出现了大量专业的新词汇

混沌录
2026-09-02 23:50:08
美空军少校在对伊战事中阵亡,遗孀:因美国没有对伊朗正式宣战,我和孩子们无法领取津贴

美空军少校在对伊战事中阵亡,遗孀:因美国没有对伊朗正式宣战,我和孩子们无法领取津贴

极目新闻
2026-09-03 13:47:05
劲爆!星宇股份“查无此岗”的HR总监,疑似被挖出来了

劲爆!星宇股份“查无此岗”的HR总监,疑似被挖出来了

财通社
2026-09-03 22:13:38
为什么燃气表不能用“南孚电池”?要不是师傅提醒,我还蒙在鼓里

为什么燃气表不能用“南孚电池”?要不是师傅提醒,我还蒙在鼓里

家居设计师苏哥
2026-09-03 11:51:34
丈夫出轨足浴店店长并生育子女 67岁女子担心财产被分勒死丈夫 获刑无期

丈夫出轨足浴店店长并生育子女 67岁女子担心财产被分勒死丈夫 获刑无期

红星新闻
2026-09-03 18:22:35
近乎腰斩!2026秋季,小学入学人数明显下滑

近乎腰斩!2026秋季,小学入学人数明显下滑

史海流年号
2026-09-03 11:49:10
又是武大!导师和学生搞权色交易,被亲生女儿举报

又是武大!导师和学生搞权色交易,被亲生女儿举报

平老师666
2026-09-03 22:45:21
赖清德向大陆喊话,宋楚瑜向大陆喊话,我海警又有新动作

赖清德向大陆喊话,宋楚瑜向大陆喊话,我海警又有新动作

DS北风
2026-09-03 18:14:06
电车20年内必被淘汰?戳中了新能源最不敢面对的财政死穴

电车20年内必被淘汰?戳中了新能源最不敢面对的财政死穴

民间胡扯老哥
2026-09-03 06:36:08
NBA三方交易曝光!凯尔特人送出保罗・乔治,得到福克斯+布兰登・米勒

NBA三方交易曝光!凯尔特人送出保罗・乔治,得到福克斯+布兰登・米勒

夜白侃球
2026-09-03 17:09:11
某权威媒体3个月内,报道海参崴10多次遭网友指责,评论区猜测或有深意

某权威媒体3个月内,报道海参崴10多次遭网友指责,评论区猜测或有深意

消失的电波
2026-09-03 17:58:19
2026-09-04 06:00:49
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
225文章数 71关注度
往期回顾 全部

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

科技要闻

英伟达129亿美元拿下Hugging Face

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

教育
时尚
亲子
本地
军事航空

教育要闻

文科院士,受聘985

女人到了60岁衣服少穿大红大绿,试试这些纯色单品,高级又耐看

亲子要闻

大人刚喝完酒,千万不要去靠近宝宝!

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

军事要闻

乌特工内战街头对射 互认对方为"俄特工"

无障碍浏览 进入关怀版