网易首页 > 网易号 > 正文 申请入驻

MiniCPM-OCR 开源:把 “Jev” 用在文字识别

0
分享至

刚刚,面壁智能和 OpenBMB 开源了 MiniCPM-OCR,这是一个非常有趣的 OCR 组合,包含两个部分:一个负责识别文字,一个负责判断正确性

一个认字,一个判卷 MiniCPM-OCR · 发了什么 原图 认出的字 0.98 0.96 0.41 0.97 认字模型 1.3B 判卷模型 2B 两个都开源 · Apache 2.0

想在自己电脑上装,复制这句话,交给你的 agent 就行

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md


发了什么

先说文字识别的 MiniCPM-OCR,这个模型只有 1.3B,也是 MiniCPM-V/o 家族第一个专做 OCR 的模型,可以将各种文件(无论是照片、扫描件、还是 PDF),识别并导出一份能直接编辑的 Markdown

报纸、图表、公式,都能认 MiniCPM-OCR · 发了什么 认出来的 报纸 → Markdown 2026年8月31日 星期一 连线评论员 # 从一条渠读懂正确政绩观 对话人: 周珊珊 本报评论员 许庆光 新疆日报评论员 # 智能时代,如何与算法共处 柱状图 → 表格 Year Low Middle High Very high 2014 32 74 62 25 2016 32 57 75 29 2018 15 65 73 40 2020 8 59 69 57 2022 7 53 73 60 2024 11 44 62 76 复杂公式 → LaTeX 左边是原图,右边是认出来的

这一个模型有趣的一点是,它们会动态地调整文字的方向和大小,以便于更好地识别我们经常是对着一些拍歪了的文件进行图像识别,这就很能派得上用场了

拍歪了、字太小,也能认 MiniCPM-OCR · 发了什么 金额 62.00元 真实拍摄评测 Real5: ,第一

这里还有一份 benchmark,可见效果还是不错的

六项评测,四项第一 MiniCPM-OCR 1.0 · 评测 真实拍摄 Real5 MiniCPM-OCR 1.0 93.68 PaddleOCR-VL-1.6 93.19 Xiaomi-OCR-0 92.73 真实场景 Wild MiniCPM-OCR 1.0 92.39 Xiaomi-OCR-0 92.06 PaddleOCR-VL-1.6 91.49 通用 OCRBench v2 MiniCPM-OCR 1.0 54.7 Nanonets-OCR-s 47.4 Xiaomi-OCR-0 47.0 语义先验噪声场景 CHAOS MiniCPM-OCR 1.0 29.78 TeleOCR 21.28 Xiaomi-OCR-0 17.84 OmniDocBench v1.6 TeleOCR 96.91 Xiaomi-OCR-0 96.83 Ovis-OCR2 96.58 MiniCPM-OCR 1.0 96.51 olmOCR-Bench chandra-ocr-2 85.8 LightOnOCR-3-1B 84.5 Surya OCR 2 83.3 MiniCPM-OCR 1.0 82.7 14 个开源 OCR 模型同场

在识别速度上,这一款模型也是十分的有优势。对于包含 1651 张页面图的 OmniDocBench v1.6 数据集,在同一张 NVIDIA GeForce RTX 5090 的显卡下,各种模型的速度如下

同样的文档,它认得最快 MiniCPM-OCR · 发了什么 MiniCPM-OCR 1.0 13.7 分钟 GLM-OCR 14.1 分钟 PaddleOCR-VL 20.4 分钟 MinerU2.5-Pro 49.6 分钟 0 10 20 30 40 50 分钟 认完 1000 页,约 14 分钟

下面容我介绍下那个「Jev」同一时间发布的还有一个 Jev 模型(2B),我觉得这是非常有创新性的一点,它的作用是把原图和识别出来的文字放在一起,给一个可信度的打分。如果分数较低,就可以提醒你这里或许是有问题的,需要人工处理一下

判卷模型给每一块打分 MiniCPM-OCR · 发了什么 合同编号:HT-2026-018 合同编号:HT-2026-018 0 0.5 1 0.99 签订日期:10 月 28 日 签订日期:10 月 28 日 0.97 金额:12,800 元 金额:12,300 元 0.31 付款方式:银行转账 付款方式:银行转账 0.96 分数在 0 到 1 之间,越高越可能认对

作为一个专用模型,在“判卷”这件事情上,它是能够和很多的大模型去掰一掰手腕的

判卷模型不大,判得很准 MiniCPM-OCR Jev · 评测 Qwen3.5 2B 50.6 Qwen3.5 9B 72.0 Qwen3.5 35B 89.8 JEV 35B 90.1 Gemma 4 31B 90.5 MiniCPM-OCR Jev 2B 93.6 Qwen3.5 397B 93.8 JEV-VL 27B 94.0 Qwen3.7-Plus 未公开 94.3 Kimi K3 2.8T 96.9 Gemini 3.8 Flash 未公开 97.1 50 = 瞎猜 100 = 全判对 2B 的 Jev,和 397B 的 Qwen3.5 差不多准

两个模型的权重、推理代码和微调工具,都放在 GitHub 的 OpenBMB/MiniCPM-OCR 里

全部开源 MiniCPM-OCR · 发了什么 OpenBMB / MiniCPM-OCR Apache 2.0 两套权重 BF16 GGUF AWQ GPTQ 推理框架 vLLM SGLang llama.cpp Ollama 交给 agent Skill.md 微调 LLaMA-Factory Swift Apache 2.0

两个模型怎么配合

那接下来我们就看一看这两款模型是怎么配合的对此,我做了一个非常生动的动画,看一看

两个模型怎么接力 MiniCPM-OCR · 怎么配合 直接入库 交给人看 认字模型 1.0 判卷模型 Jev

分高的识别区块能够直接录入,而分数低的可以让人再看一眼

人只看低分的几块 MiniCPM-OCR · 怎么配合 没有判卷模型 有判卷模型 复核完成

那如果大模型说这个区块确实没有问题,就会给它标记一个叫“免检”的 tag但这玩意儿真的可靠吗?面壁拿内部不同业务的 900 块图试过,还真是挺可靠的

大部分内容,不用人再看 MiniCPM-OCR · 怎么配合 免检 法律文书 财务票据 复杂文档 免检,直接录入 交给人看 法律文书 85% 免检,免检的部分全部认对

当然,这个判卷模型还能当裁判:比如你可以把同一页交给几个 OCR 各认一遍,然后每一块留下分最高的那份,这何尝不是一种拼好 R

几个模型一起认,挑最好的 MiniCPM-OCR · 怎么配合 MiniCPM-OCR Xiaomi OCR PaddleOCR-VL 拼起来 原图 0.97 0.95 0.93 0.71 0.94 0.88 0.62 0.58 0.91 0.96 0.90 0.97 PaddleOCR-VL  MiniCPM-OCR

怎么用

整套的模型与服务已经上线了 MiniCPM 的网站,国内是 platform.modelbest.cn,海外是 platform.modelbest.ai,开箱即用

网页上传就能试 MiniCPM-OCR · 怎么用 文档解析工作台 + 新建识别 拖拽文件到此处,或 点击上传 支持 PDF、JPG、PNG、WebP、GIF 旋转自适应 印章识别 原始文档 已摆正 预览 Markdown 源码 二、相互作用—力 (6)重力:G = mg 方向:竖直向下 重力做功 W G = mgh 重力的平均功率 P G = W G / t 瞬时功率 P G = mgV y

当然,你也可以选择把这套东西装在自己电脑上,就把开头那句交给 agent,它会照着仓库里的说明一步步装好

第一次装好、把服务跑起来,大约要 3 分钟

一句话,让 agent 装好 MiniCPM-OCR · 怎么用 agent › R e a d a n d e x e c u t e g i t h u b . c o m / O p e n B M B / M i n i C P M - O C R / … / S K I L L _ e n . m d 检查显卡 显存 ≥ 24 GB 检查磁盘 空间 ≥ 20 GB 安装环境 下载模型 MiniCPM-OCR-1.0 + DSpark 启动服务 127.0.0.1:18499 显存至少 24 GB

装好以后,一条命令就能把 PDF 变成 Markdown,表格也会一并转成 HTML

一条命令,PDF 变 Markdown MiniCPM-OCR · 怎么用 terminal $ m i n i c p m v o c r p a r s e - - i n p u t 采 购 合 同 . p d f - - o u t p u t o u t . m d out.md # 采 购 合 同 第 一 条 甲 方 向 乙 方 采 购 … … < t a b l e > < t r > < t d > 品 名 < / t d > …

而对于那个 Jev,则可以直接在在 Hugging Face 上一行 Ollama

判卷模型,一行跑起来 MiniCPM-OCR · 怎么用 Hugging Face openbmb / MiniCPM-OCR-Jev-gguf Image-Text-to-Text GGUF quality-assessment llama.cpp License: apache-2.0 Model card Files Community Use this model ▾ MiniCPM-OCR Jev (2B) scores OCR candidates for text, formula, and table regions, returning a quality score from 0 to 1. Model size 2B params 4-bit Q4_K_M 1.27 GB 8-bit Q8_0 2.01 GB Local Apps llama.cpp LM Studio vLLM Ollama How to use from Ollama ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M Copy Copied terminal $ ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M 1.27 GB

对了,这俩模型的 api 后续还会放出来,敬请期待

原理

说回 Jev:为啥非要单独做一个判卷的模型?

现在新一代的 OCR,几乎都换成了能看图写字的大模型,整页看一遍就直接把结果写出来问题在于...OCR 模型这玩意儿,它识别错了,自己也不知道

认错了,它自己不知道 MiniCPM-OCR · 原理 原图 认字模型 认出来的 认字模型把下标写错了,照样打勾说完成

倘若在平时办公也好,一个错别字影响并不大但在财务、法务、医疗这些地方就很要了老命了,比如说,你是切 5 厘米还是切 5 毫米,是吧?那在这种情况下,走一轮校验,看不清的天书,就能更准确地进入人工流程了

认错的字,判卷模型挑得出来 MiniCPM-OCR · 原理 原图 候选 1 纯种的甜玉米与纯种的非甜玉米实行 间种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 非甜 玉米的子粒 0.0067 候选 2 纯种的甜玉米与纯种的非甜玉米实行 间行种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 甜 玉米的子粒 0.984 错两处的候选,分数掉到 0.0067

很显然,这种方法是非常省时、省力、省人工的

判卷模型给的分,靠得住 MiniCPM-OCR · 原理 它说:85% 可能对 认对 它说:30% 可能对 认对 人工核对: 认对 认错 说 85% 可能对,就真有八成五对

另外得说一下,为什么这个模型是这么快?靠的一套叫 DSpark 投机采样小妙招:先让一个小模型猜几个字,再由大模型一次核对

认字模型为什么快 MiniCPM-OCR · 原理 猜 定 小模型 大模型核对 合 同 金 颔 合 同 金 颔 额 为 一 万 二 为 一 万 二 千 八 百 元 千 八 百 元 DSpark 投机采样:效率

最后

业务里 OCR 用的多的朋友,不妨来试一试,两个模型加起来不到 4B,人人能跑了是

可以试试把下面这段话发给你的 Agent

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md

代码和模型,都在 GitHub 上 MiniCPM-OCR · 最后 OpenBMB / MiniCPM-OCR Public Star Code Issues Pull requests Actions .github/workflows assets/minicpm-ocr docs scripts sdk AGENTS.md LICENSE README.md About An open-source OCR solution for fast, accurate document parsing with correctness assessment. image2text minicpm-v ocr Apache-2.0 license Skill:把这句话发给 coding agent Read and execute github.com/OpenBMB/MiniCPM-OCR/…/docs/SKILL_en.md Copied! github.com/OpenBMB/MiniCPM-OCR

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
记者:阿莫林还在强行找借口,也许他的性格就是这样

记者:阿莫林还在强行找借口,也许他的性格就是这样

懂球帝
2026-11-07 08:15:36
印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

荆楚寰宇文枢
2026-11-05 23:19:37
中国外交官被限24小时离境,横插两岸统一,这国比美国更过火?

中国外交官被限24小时离境,横插两岸统一,这国比美国更过火?

蜉蝣说
2026-11-05 10:20:15
完了、完了!中国房地产的底牌被高盛扒个底朝天…

完了、完了!中国房地产的底牌被高盛扒个底朝天…

慧翔百科
2026-11-06 08:43:34
吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

社会日日鲜
2026-11-06 07:04:14
就在刚刚,斯诺克国际锦标赛:决赛竞争激烈,双方四次战平,希金斯5-4威尔逊

就在刚刚,斯诺克国际锦标赛:决赛竞争激烈,双方四次战平,希金斯5-4威尔逊

篮球热嗖
2026-11-07 20:15:51
张萌回应“整容脸”:脂肪吸收了假体取了,原生骨相打了谁的脸?

张萌回应“整容脸”:脂肪吸收了假体取了,原生骨相打了谁的脸?

小莜读史
2026-11-06 14:44:13
重大损失!谢莹莹逝世

重大损失!谢莹莹逝世

上观新闻
2026-11-07 17:04:54
太惨了,北京某大厂被曝裁员40%,网友说:计算机土木化了!

太惨了,北京某大厂被曝裁员40%,网友说:计算机土木化了!

黯泉
2026-11-06 11:38:02
重磅:东风-61突然入列,中国为何此刻掀开核底牌?

重磅:东风-61突然入列,中国为何此刻掀开核底牌?

华山穹剑
2026-11-07 19:47:07
“迎接APEC,深圳的石墩子都在努力”

“迎接APEC,深圳的石墩子都在努力”

深圳微时光
2026-11-07 19:05:13
歌手杨坤公布病情

歌手杨坤公布病情

极目新闻
2026-11-06 09:30:31
时隔305天轰20+!林葳20分钟20+4+3大爆发 率俄勒冈两战全胜

时隔305天轰20+!林葳20分钟20+4+3大爆发 率俄勒冈两战全胜

醉卧浮生
2026-11-07 09:08:01
突发!63岁冯远征不再担任北京人艺院长,成北京人艺历史上任职时间最短的院长

突发!63岁冯远征不再担任北京人艺院长,成北京人艺历史上任职时间最短的院长

叨唠
2026-11-07 00:05:25
9换2交易发威,华子安心养伤!5年1.12亿押对宝,库明加也打出来了

9换2交易发威,华子安心养伤!5年1.12亿押对宝,库明加也打出来了

锅子篮球
2026-11-07 17:36:32
农村多地滞销烂地里!5毛一斤贱卖不够工钱,农民:再也不种了

农村多地滞销烂地里!5毛一斤贱卖不够工钱,农民:再也不种了

邹小蘑菇
2026-11-06 11:22:45
中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

细说职场
2026-11-07 11:17:06
新势力集体沉默!工信部第413批新车申报量锐减背后:新规阻击速成车,合资新能源加速入场

新势力集体沉默!工信部第413批新车申报量锐减背后:新规阻击速成车,合资新能源加速入场

每日经济新闻
2026-11-05 22:48:02
违背当局宣传口径的俄挺战博主被拘

违背当局宣传口径的俄挺战博主被拘

名人苟或
2026-11-06 15:37:20
目前国内最有希望举办下一届G20峰会的城市分析

目前国内最有希望举办下一届G20峰会的城市分析

花小猫的美食日常
2026-11-07 06:46:58
2026-11-07 22:04:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

42岁的唐嫣,又上热搜了

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

艺术
旅游
房产
健康
军事航空

艺术要闻

17位 国外画家笔下的女子

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

房产要闻

突发!海口新政:小户型回来了!

痘痘长到25岁还没完?查查内分泌

军事要闻

特朗普称伊朗战事何时结束将由其决定

无障碍浏览 进入关怀版