网易首页 > 网易号 > 正文 申请入驻

MiniCPM-OCR 开源:把 “Jev” 用在文字识别

0
分享至

刚刚,面壁智能和 OpenBMB 开源了 MiniCPM-OCR,这是一个非常有趣的 OCR 组合,包含两个部分:一个负责识别文字,一个负责判断正确性

一个认字,一个判卷 MiniCPM-OCR · 发了什么 原图 认出的字 0.98 0.96 0.41 0.97 认字模型 1.3B 判卷模型 2B 两个都开源 · Apache 2.0

想在自己电脑上装,复制这句话,交给你的 agent 就行

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md


发了什么

先说文字识别的 MiniCPM-OCR,这个模型只有 1.3B,也是 MiniCPM-V/o 家族第一个专做 OCR 的模型,可以将各种文件(无论是照片、扫描件、还是 PDF),识别并导出一份能直接编辑的 Markdown

报纸、图表、公式,都能认 MiniCPM-OCR · 发了什么 认出来的 报纸 → Markdown 2026年8月31日 星期一 连线评论员 # 从一条渠读懂正确政绩观 对话人: 周珊珊 本报评论员 许庆光 新疆日报评论员 # 智能时代,如何与算法共处 柱状图 → 表格 Year Low Middle High Very high 2014 32 74 62 25 2016 32 57 75 29 2018 15 65 73 40 2020 8 59 69 57 2022 7 53 73 60 2024 11 44 62 76 复杂公式 → LaTeX 左边是原图,右边是认出来的

这一个模型有趣的一点是,它们会动态地调整文字的方向和大小,以便于更好地识别我们经常是对着一些拍歪了的文件进行图像识别,这就很能派得上用场了

拍歪了、字太小,也能认 MiniCPM-OCR · 发了什么 金额 62.00元 真实拍摄评测 Real5: ,第一

这里还有一份 benchmark,可见效果还是不错的

六项评测,四项第一 MiniCPM-OCR 1.0 · 评测 真实拍摄 Real5 MiniCPM-OCR 1.0 93.68 PaddleOCR-VL-1.6 93.19 Xiaomi-OCR-0 92.73 真实场景 Wild MiniCPM-OCR 1.0 92.39 Xiaomi-OCR-0 92.06 PaddleOCR-VL-1.6 91.49 通用 OCRBench v2 MiniCPM-OCR 1.0 54.7 Nanonets-OCR-s 47.4 Xiaomi-OCR-0 47.0 语义先验噪声场景 CHAOS MiniCPM-OCR 1.0 29.78 TeleOCR 21.28 Xiaomi-OCR-0 17.84 OmniDocBench v1.6 TeleOCR 96.91 Xiaomi-OCR-0 96.83 Ovis-OCR2 96.58 MiniCPM-OCR 1.0 96.51 olmOCR-Bench chandra-ocr-2 85.8 LightOnOCR-3-1B 84.5 Surya OCR 2 83.3 MiniCPM-OCR 1.0 82.7 14 个开源 OCR 模型同场

在识别速度上,这一款模型也是十分的有优势。对于包含 1651 张页面图的 OmniDocBench v1.6 数据集,在同一张 NVIDIA GeForce RTX 5090 的显卡下,各种模型的速度如下

同样的文档,它认得最快 MiniCPM-OCR · 发了什么 MiniCPM-OCR 1.0 13.7 分钟 GLM-OCR 14.1 分钟 PaddleOCR-VL 20.4 分钟 MinerU2.5-Pro 49.6 分钟 0 10 20 30 40 50 分钟 认完 1000 页,约 14 分钟

下面容我介绍下那个「Jev」同一时间发布的还有一个 Jev 模型(2B),我觉得这是非常有创新性的一点,它的作用是把原图和识别出来的文字放在一起,给一个可信度的打分。如果分数较低,就可以提醒你这里或许是有问题的,需要人工处理一下

判卷模型给每一块打分 MiniCPM-OCR · 发了什么 合同编号:HT-2026-018 合同编号:HT-2026-018 0 0.5 1 0.99 签订日期:10 月 28 日 签订日期:10 月 28 日 0.97 金额:12,800 元 金额:12,300 元 0.31 付款方式:银行转账 付款方式:银行转账 0.96 分数在 0 到 1 之间,越高越可能认对

作为一个专用模型,在“判卷”这件事情上,它是能够和很多的大模型去掰一掰手腕的

判卷模型不大,判得很准 MiniCPM-OCR Jev · 评测 Qwen3.5 2B 50.6 Qwen3.5 9B 72.0 Qwen3.5 35B 89.8 JEV 35B 90.1 Gemma 4 31B 90.5 MiniCPM-OCR Jev 2B 93.6 Qwen3.5 397B 93.8 JEV-VL 27B 94.0 Qwen3.7-Plus 未公开 94.3 Kimi K3 2.8T 96.9 Gemini 3.8 Flash 未公开 97.1 50 = 瞎猜 100 = 全判对 2B 的 Jev,和 397B 的 Qwen3.5 差不多准

两个模型的权重、推理代码和微调工具,都放在 GitHub 的 OpenBMB/MiniCPM-OCR 里

全部开源 MiniCPM-OCR · 发了什么 OpenBMB / MiniCPM-OCR Apache 2.0 两套权重 BF16 GGUF AWQ GPTQ 推理框架 vLLM SGLang llama.cpp Ollama 交给 agent Skill.md 微调 LLaMA-Factory Swift Apache 2.0

两个模型怎么配合

那接下来我们就看一看这两款模型是怎么配合的对此,我做了一个非常生动的动画,看一看

两个模型怎么接力 MiniCPM-OCR · 怎么配合 直接入库 交给人看 认字模型 1.0 判卷模型 Jev

分高的识别区块能够直接录入,而分数低的可以让人再看一眼

人只看低分的几块 MiniCPM-OCR · 怎么配合 没有判卷模型 有判卷模型 复核完成

那如果大模型说这个区块确实没有问题,就会给它标记一个叫“免检”的 tag但这玩意儿真的可靠吗?面壁拿内部不同业务的 900 块图试过,还真是挺可靠的

大部分内容,不用人再看 MiniCPM-OCR · 怎么配合 免检 法律文书 财务票据 复杂文档 免检,直接录入 交给人看 法律文书 85% 免检,免检的部分全部认对

当然,这个判卷模型还能当裁判:比如你可以把同一页交给几个 OCR 各认一遍,然后每一块留下分最高的那份,这何尝不是一种拼好 R

几个模型一起认,挑最好的 MiniCPM-OCR · 怎么配合 MiniCPM-OCR Xiaomi OCR PaddleOCR-VL 拼起来 原图 0.97 0.95 0.93 0.71 0.94 0.88 0.62 0.58 0.91 0.96 0.90 0.97 PaddleOCR-VL  MiniCPM-OCR

怎么用

整套的模型与服务已经上线了 MiniCPM 的网站,国内是 platform.modelbest.cn,海外是 platform.modelbest.ai,开箱即用

网页上传就能试 MiniCPM-OCR · 怎么用 文档解析工作台 + 新建识别 拖拽文件到此处,或 点击上传 支持 PDF、JPG、PNG、WebP、GIF 旋转自适应 印章识别 原始文档 已摆正 预览 Markdown 源码 二、相互作用—力 (6)重力:G = mg 方向:竖直向下 重力做功 W G = mgh 重力的平均功率 P G = W G / t 瞬时功率 P G = mgV y

当然,你也可以选择把这套东西装在自己电脑上,就把开头那句交给 agent,它会照着仓库里的说明一步步装好

第一次装好、把服务跑起来,大约要 3 分钟

一句话,让 agent 装好 MiniCPM-OCR · 怎么用 agent › R e a d a n d e x e c u t e g i t h u b . c o m / O p e n B M B / M i n i C P M - O C R / … / S K I L L _ e n . m d 检查显卡 显存 ≥ 24 GB 检查磁盘 空间 ≥ 20 GB 安装环境 下载模型 MiniCPM-OCR-1.0 + DSpark 启动服务 127.0.0.1:18499 显存至少 24 GB

装好以后,一条命令就能把 PDF 变成 Markdown,表格也会一并转成 HTML

一条命令,PDF 变 Markdown MiniCPM-OCR · 怎么用 terminal $ m i n i c p m v o c r p a r s e - - i n p u t 采 购 合 同 . p d f - - o u t p u t o u t . m d out.md # 采 购 合 同 第 一 条 甲 方 向 乙 方 采 购 … … < t a b l e > < t r > < t d > 品 名 < / t d > …

而对于那个 Jev,则可以直接在在 Hugging Face 上一行 Ollama

判卷模型,一行跑起来 MiniCPM-OCR · 怎么用 Hugging Face openbmb / MiniCPM-OCR-Jev-gguf Image-Text-to-Text GGUF quality-assessment llama.cpp License: apache-2.0 Model card Files Community Use this model ▾ MiniCPM-OCR Jev (2B) scores OCR candidates for text, formula, and table regions, returning a quality score from 0 to 1. Model size 2B params 4-bit Q4_K_M 1.27 GB 8-bit Q8_0 2.01 GB Local Apps llama.cpp LM Studio vLLM Ollama How to use from Ollama ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M Copy Copied terminal $ ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M 1.27 GB

对了,这俩模型的 api 后续还会放出来,敬请期待

原理

说回 Jev:为啥非要单独做一个判卷的模型?

现在新一代的 OCR,几乎都换成了能看图写字的大模型,整页看一遍就直接把结果写出来问题在于...OCR 模型这玩意儿,它识别错了,自己也不知道

认错了,它自己不知道 MiniCPM-OCR · 原理 原图 认字模型 认出来的 认字模型把下标写错了,照样打勾说完成

倘若在平时办公也好,一个错别字影响并不大但在财务、法务、医疗这些地方就很要了老命了,比如说,你是切 5 厘米还是切 5 毫米,是吧?那在这种情况下,走一轮校验,看不清的天书,就能更准确地进入人工流程了

认错的字,判卷模型挑得出来 MiniCPM-OCR · 原理 原图 候选 1 纯种的甜玉米与纯种的非甜玉米实行 间种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 非甜 玉米的子粒 0.0067 候选 2 纯种的甜玉米与纯种的非甜玉米实行 间行种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 甜 玉米的子粒 0.984 错两处的候选,分数掉到 0.0067

很显然,这种方法是非常省时、省力、省人工的

判卷模型给的分,靠得住 MiniCPM-OCR · 原理 它说:85% 可能对 认对 它说:30% 可能对 认对 人工核对: 认对 认错 说 85% 可能对,就真有八成五对

另外得说一下,为什么这个模型是这么快?靠的一套叫 DSpark 投机采样小妙招:先让一个小模型猜几个字,再由大模型一次核对

认字模型为什么快 MiniCPM-OCR · 原理 猜 定 小模型 大模型核对 合 同 金 颔 合 同 金 颔 额 为 一 万 二 为 一 万 二 千 八 百 元 千 八 百 元 DSpark 投机采样:效率

最后

业务里 OCR 用的多的朋友,不妨来试一试,两个模型加起来不到 4B,人人能跑了是

可以试试把下面这段话发给你的 Agent

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md

代码和模型,都在 GitHub 上 MiniCPM-OCR · 最后 OpenBMB / MiniCPM-OCR Public Star Code Issues Pull requests Actions .github/workflows assets/minicpm-ocr docs scripts sdk AGENTS.md LICENSE README.md About An open-source OCR solution for fast, accurate document parsing with correctness assessment. image2text minicpm-v ocr Apache-2.0 license Skill:把这句话发给 coding agent Read and execute github.com/OpenBMB/MiniCPM-OCR/…/docs/SKILL_en.md Copied! github.com/OpenBMB/MiniCPM-OCR

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“花一千多听个响”这种玩具突然爆火,王俊凯、孙怡也纷纷入坑,隐患不容忽视

“花一千多听个响”这种玩具突然爆火,王俊凯、孙怡也纷纷入坑,隐患不容忽视

新浪财经
2026-11-06 14:32:25
谢玲玲到场支持林恬儿活动:学识善良是真正财富 女性不必依附婚姻

谢玲玲到场支持林恬儿活动:学识善良是真正财富 女性不必依附婚姻

乡野小珥
2026-11-07 19:44:00
上海59岁男子倒在站台去世,路人欲施救被工作人员制止,家属:AED仅步行约1分钟距离,起诉车站被驳回

上海59岁男子倒在站台去世,路人欲施救被工作人员制止,家属:AED仅步行约1分钟距离,起诉车站被驳回

扬子晚报
2026-11-07 14:16:31
印度首富夫人游艇回孟买,素颜满脸斑肚大如萝,穿花睡衣被围着走

印度首富夫人游艇回孟买,素颜满脸斑肚大如萝,穿花睡衣被围着走

誮惜颜a
2026-11-05 15:32:15
医生:再高的糖尿病,没有这8个症状,不必过分焦虑,照常饮食

医生:再高的糖尿病,没有这8个症状,不必过分焦虑,照常饮食

王二哥老搞笑
2026-11-07 09:13:34
厉娜风评大逆转!43岁活得像傻白甜,才懂许飞“背刺”她的原因

厉娜风评大逆转!43岁活得像傻白甜,才懂许飞“背刺”她的原因

北海史记
2026-10-30 16:12:57
从欧洲议会“演讲”,到无人共度圣诞:哈里梅根只剩制造幻象 !

从欧洲议会“演讲”,到无人共度圣诞:哈里梅根只剩制造幻象 !

情感大头说说
2026-11-07 19:24:40
一条街的生意,拴在两千本编制上:县城公务员经济是怎么撑起来的,又是怎么走到今天的

一条街的生意,拴在两千本编制上:县城公务员经济是怎么撑起来的,又是怎么走到今天的

寰球经纬所
2026-11-06 14:19:31
昆明市一栋评估价891万元的别墅降价拍卖,被人底价499万竞得

昆明市一栋评估价891万元的别墅降价拍卖,被人底价499万竞得

爱看剧的阿峰
2026-11-07 18:33:51
美股科技股大幅反弹,AI算力巨头狂飙20%,热门中概股普涨

美股科技股大幅反弹,AI算力巨头狂飙20%,热门中概股普涨

21世纪经济报道
2026-11-07 08:23:31
新疆117岁老奶奶跳舞视频引数百万网友围观,当地:她生育16个子女仅剩5人在世,丈夫30年前去世,目前全家五世同堂共93口人,最小的1岁左右

新疆117岁老奶奶跳舞视频引数百万网友围观,当地:她生育16个子女仅剩5人在世,丈夫30年前去世,目前全家五世同堂共93口人,最小的1岁左右

极目新闻
2026-11-06 18:49:31
多部门介入“母子衣衫不整”事件!

多部门介入“母子衣衫不整”事件!

新动察
2026-10-16 11:00:05
原汁原味无污染?印度环保局长当众喝恒河水,5分钟后被抬走!

原汁原味无污染?印度环保局长当众喝恒河水,5分钟后被抬走!

霁寒飘雪
2026-10-10 11:56:38
年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

青辉
2026-11-07 15:20:09
46:67,内塔尼亚胡或下台,特朗普被打得落花流水,伊朗直接躺赢

46:67,内塔尼亚胡或下台,特朗普被打得落花流水,伊朗直接躺赢

国际法大视野
2026-11-06 17:46:04
网红小姐姐的这身打扮,还挺别致的

网红小姐姐的这身打扮,还挺别致的

美女穿搭分享
2026-10-31 16:21:31
四川女子撇下60岁父母自杀,1个月后父亲不顾反对给女儿开棺

四川女子撇下60岁父母自杀,1个月后父亲不顾反对给女儿开棺

罪案洞察者
2025-03-31 10:36:32
国务院国资委:央企境外资产近10万亿元,全球机构项目超1.7万个

国务院国资委:央企境外资产近10万亿元,全球机构项目超1.7万个

中国青年报
2026-11-06 22:48:28
全新亚洲龙上市13.38万起,再次定义豪华新标准

全新亚洲龙上市13.38万起,再次定义豪华新标准

12缸汽车
2026-11-07 21:13:24
美媒:万斯直接介入 美伊谈判“提级”

美媒:万斯直接介入 美伊谈判“提级”

新华社
2026-11-07 13:23:46
2026-11-07 22:16:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

老去的大佬、当红的新贵,握着一张AI考卷

头条要闻

专家:美国民主党若敢触碰北京红线 中方必将坚决反制

头条要闻

专家:美国民主党若敢触碰北京红线 中方必将坚决反制

体育要闻

轰35+5迎生涯之夜 米切尔成雷霆第二巨

娱乐要闻

赵雅芝杭州吃饭落泪,赡养压力引热议

财经要闻

“科技小登”打回原形

汽车要闻

503.17km/h!中国超跑这次真把天花板捅穿了!

态度原创

家居
亲子
本地
旅游
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

全国约2300万孩子长期受它折磨,却只有3%就医治疗!

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

“丹霞千龛 多彩华章——炳灵寺石窟展”开展

军事要闻

美媒:万斯直接介入 美伊谈判“提级”

无障碍浏览 进入关怀版