网易首页 > 网易号 > 正文 申请入驻

把发票塞进本地4B模型,他朋友用完说不想回头

0
分享至

为什么一张印度餐厅的账单,能把云端发票识别服务打回原形?一位软件工程师给出的答案很直接:因为那张账单根本不该离开笔记本。


他做的是一个本地优先的应付账款工作台,名字叫 LedgerLens。把 PDF 或照片拖到本机,跑在 127.0.0.1 上的 Ollama 里,由 Gemma 3(4B) 抽取供应商、日期、税额、总额和明细行,SQLite 存历史。文件不进 OpenAI,不进 Textract,也不进某个来路不明的 SaaS。

触发点是他自己的收据堆。Swiggy 转来的餐厅小票、承包商发票、一张满是 GST 的印度收据——用美国数据训练出来的云端解析器,处理起来像在开玩笑。他试过的每一个“智能收件箱”,第一件事都是先上传文件,然后再道歉。

正方:本地跑得动,而且够用

他给出的理由带着参数感。4B 的开源权重模型小到能塞进笔记本的 GPU 或 CPU,又大到在给定 schema 时能吐出结构化的发票 JSON。他没有为这一周去微调模型,而是约束它:首次尝试绑定 schema,重试时回退到原始 JSON,再用确定性的 OCR 补全 GSTIN、CGST、₹ 和 Swiggy 式表头。

第一个真实文档是一张 Swiggy/KFC 的合并 PDF。Gemma 返回了供应商 KFC(Swiggy Limited)、发票号、日期、INR 1,092.90、分类“Meals & Dining”,以及明细行(Epic Savers Chicken Bucket、打包费)。这就是产品本身。

整条流水线是一个可轮询进度的任务:上传 → OCR(40%)→ Gemma 抽取(60%)→ 查重与规则(80%)→ 落库(100%)。OCR 文本被当作不可信输入,系统提示词里写明了这一点。他的判断是,一个把整份 PDF 当“用户”吞下去的闭源聊天 API,正是提示注入从供应商信纸走进来的路径。

反方:这套东西的门槛在哪

他自己列了要改的地方。想在 GST 发票上微调 Gemma,而不是靠正则补全;审阅面板需要真正的 PDF 渲染,字段那一侧已经扎实,预览还欠火候;以及一个一键安装包,让朋友不必知道 npm run dev 是什么意思。

最后这条来自真实反馈。他把 LedgerLens 摆到朋友 Raj 面前,让他丢一份文档进去,看着 Gemma 填满审阅面板。Raj 用了,然后大致说了句:在其他发票通用工具上,他不会再回头了。Raj 没付钱,他也没要。Raj 接下来提的需求很无聊也很正确——“别让我开两个终端”。

技术栈全部落在本地:前端 React 19 + Vite + Three.js,后端 Express + better-sqlite3(WAL)+ Tesseract + Ollama。推理走 Ollama + Gemma 3,开源权重、离线、每 token 零成本;OCR 用 Tesseract.js,扫描页不需要云端视觉 API;数据库是 SQLite WAL,一个文件,扛得住 ctrl+c。Windows 下账本存在 %LOCALAPPDATA%\LedgerLens,其他平台在 ~/.ledgerlens。

他还做了一个 3D 硬币架当导航,每枚硬币是一个工作区:概览、发票、收据、审阅、供应商、支出、自动化、报表、本地 AI、设置。这部分是额外的,Raj 真正在意的是收件箱。

我的判断

没有云端部署是故意的,整个卖点就是回环地址。他的原话逻辑是:如果把它做成托管 SaaS,他卖的就是自己拒绝买的东西。

这笔账他算得很清楚。闭源发票 API 做三件事:给文档定价,每页都是别人账单上的一个行项;转移秘密,客户 PDF 变成接近训练数据的流量;冻结模型,闭源抽取器是一个带服务条款的黑箱。而本机上的 Gemma 是沉没成本,一次 ollama pull 而已。

如果推理是每页 0.04 美元,一个月 200 张发票就是一笔费用;如果推理是用户 GPU 上的 4B 模型,产品可以是一次性工具,而不是一份会漏数据的订阅。他给付费版本的说明已经写好了:发票留在你的磁盘上,Gemma 负责打字,你点一次批准。

这套东西能不能撑起生意另说,但它至少回答了一个具体问题:一台没有联网的笔记本,能不能把别人的数据留在别人控制不了的服务器之外,并且跑起来不花钱。他的答案是三个“能”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“老鼠仓”近4年最终亏损!一保险资管公司女研究员被罚50万

“老鼠仓”近4年最终亏损!一保险资管公司女研究员被罚50万

红星新闻
2026-10-18 13:12:20
马科斯下令逮捕莎拉,双方都在拉拢军方,没想到菲军保持沉默

马科斯下令逮捕莎拉,双方都在拉拢军方,没想到菲军保持沉默

麓谷隐士
2026-09-10 00:05:03
以总理公布新“国家安全构想”,称转向进攻和预警打击

以总理公布新“国家安全构想”,称转向进攻和预警打击

澎湃新闻
2026-10-19 01:30:05
这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

宇宙时空
2026-05-26 18:20:10
“监狱海王” 王东在监狱服刑,仍有7名情人和他私会并送钱财,其中一人是民警妻子,狱警帮忙掩护,情人遭遇勒索,让人唏嘘

“监狱海王” 王东在监狱服刑,仍有7名情人和他私会并送钱财,其中一人是民警妻子,狱警帮忙掩护,情人遭遇勒索,让人唏嘘

磊子讲史
2026-10-14 16:52:04
福建该县民政局原党组书记、一级主任科员被查

福建该县民政局原党组书记、一级主任科员被查

大闽门户
2026-10-18 18:28:48
女体育生穿“黑纱裤”训练,心思被戳穿:你这种高六都考不上大学

女体育生穿“黑纱裤”训练,心思被戳穿:你这种高六都考不上大学

熙熙说教
2026-10-18 14:36:19
风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

古怪奇谈录
2025-09-11 14:21:18
眼睁睁看着小格力股票不满一个月涨幅近50%我说不后悔一定是假话

眼睁睁看着小格力股票不满一个月涨幅近50%我说不后悔一定是假话

股灾亲历者
2026-09-17 10:46:16
皇马vs塞维利亚:姆巴佩、贝林厄姆首发,优素福-福法纳、鲁文-巴尔加斯出战

皇马vs塞维利亚:姆巴佩、贝林厄姆首发,优素福-福法纳、鲁文-巴尔加斯出战

懂球帝
2026-10-19 02:21:04
演员万茜与丈夫徐洪涛,彼此深爱,又很低调

演员万茜与丈夫徐洪涛,彼此深爱,又很低调

娱你同欢
2026-06-09 20:04:50
1939年,李德返回苏联后,对在中国的老婆和年幼的儿子不管不顾

1939年,李德返回苏联后,对在中国的老婆和年幼的儿子不管不顾

古书记史
2026-01-12 21:59:25
李丽珍60岁坦白:单身10年,和前夫许愿近30年没见,我不想再从头认识谁了

李丽珍60岁坦白:单身10年,和前夫许愿近30年没见,我不想再从头认识谁了

小徐讲八卦
2026-10-16 10:41:44
街上冷清、商场没人、厂区空荡、村子也空了,人都去哪儿了?

街上冷清、商场没人、厂区空荡、村子也空了,人都去哪儿了?

帝都观日记
2026-10-18 14:05:06
小杨哥、大杨哥现身直播间,昔日风光不再,在线人数仅寥寥数百人

小杨哥、大杨哥现身直播间,昔日风光不再,在线人数仅寥寥数百人

娱慧
2026-10-17 13:39:45
历史不会重演,但会惊人相似:中国黄金价格极可能重走2015年老路

历史不会重演,但会惊人相似:中国黄金价格极可能重走2015年老路

浩渺青史
2026-10-17 01:48:48
1954年王医生与江青发生冲突,向毛泽东请辞,毛泽东却说:我需要你呀

1954年王医生与江青发生冲突,向毛泽东请辞,毛泽东却说:我需要你呀

微野谈写作
2026-10-13 13:00:07
蓉城0-3,国安1-0,三镇1-3,中超最新排名出炉!蓉城夺冠再延期

蓉城0-3,国安1-0,三镇1-3,中超最新排名出炉!蓉城夺冠再延期

薇说体育
2026-10-18 22:23:46
国庆去北京转了一圈,不得不说,北京人确实挺厉害的

国庆去北京转了一圈,不得不说,北京人确实挺厉害的

呼呼历史论
2026-10-18 09:22:57
果然傍大款这碗饭,也不是谁都能吃的,网友:这泼天的富贵我接不住

果然傍大款这碗饭,也不是谁都能吃的,网友:这泼天的富贵我接不住

水泥土的搞笑
2026-10-10 00:32:42
2026-10-19 05:44:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
163文章数 81关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

亲子
旅游
数码
家居
房产

亲子要闻

我将重复播放观看

旅游要闻

前门·长巷里:沉淀百年士子风骨与匠人烟火

数码要闻

古尔曼:苹果计划为HomeView智能家庭中枢配备电动机械臂,最早2027年推出

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

无障碍浏览 进入关怀版