刚刚,面壁智能和 OpenBMB 开源了 MiniCPM-OCR,这是一个非常有趣的 OCR 组合,包含两个部分:一个负责识别文字,一个负责判断正确性
一个认字,一个判卷 MiniCPM-OCR · 发了什么 原图 认出的字 0.98 0.96 0.41 0.97 认字模型 1.3B 判卷模型 2B 两个都开源 · Apache 2.0
想在自己电脑上装,复制这句话,交给你的 agent 就行
阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md
发了什么
先说文字识别的 MiniCPM-OCR,这个模型只有 1.3B,也是 MiniCPM-V/o 家族第一个专做 OCR 的模型,可以将各种文件(无论是照片、扫描件、还是 PDF),识别并导出一份能直接编辑的 Markdown
报纸、图表、公式,都能认 MiniCPM-OCR · 发了什么 认出来的 报纸 → Markdown 2026年8月31日 星期一 连线评论员 # 从一条渠读懂正确政绩观 对话人: 周珊珊 本报评论员 许庆光 新疆日报评论员 # 智能时代,如何与算法共处 柱状图 → 表格 Year Low Middle High Very high 2014 32 74 62 25 2016 32 57 75 29 2018 15 65 73 40 2020 8 59 69 57 2022 7 53 73 60 2024 11 44 62 76 复杂公式 → LaTeX 左边是原图,右边是认出来的
这一个模型有趣的一点是,它们会动态地调整文字的方向和大小,以便于更好地识别我们经常是对着一些拍歪了的文件进行图像识别,这就很能派得上用场了
拍歪了、字太小,也能认 MiniCPM-OCR · 发了什么 金额 62.00元 真实拍摄评测 Real5: ,第一
这里还有一份 benchmark,可见效果还是不错的
六项评测,四项第一 MiniCPM-OCR 1.0 · 评测 真实拍摄 Real5 MiniCPM-OCR 1.0 93.68 PaddleOCR-VL-1.6 93.19 Xiaomi-OCR-0 92.73 真实场景 Wild MiniCPM-OCR 1.0 92.39 Xiaomi-OCR-0 92.06 PaddleOCR-VL-1.6 91.49 通用 OCRBench v2 MiniCPM-OCR 1.0 54.7 Nanonets-OCR-s 47.4 Xiaomi-OCR-0 47.0 语义先验噪声场景 CHAOS MiniCPM-OCR 1.0 29.78 TeleOCR 21.28 Xiaomi-OCR-0 17.84 OmniDocBench v1.6 TeleOCR 96.91 Xiaomi-OCR-0 96.83 Ovis-OCR2 96.58 MiniCPM-OCR 1.0 96.51 olmOCR-Bench chandra-ocr-2 85.8 LightOnOCR-3-1B 84.5 Surya OCR 2 83.3 MiniCPM-OCR 1.0 82.7 14 个开源 OCR 模型同场
在识别速度上,这一款模型也是十分的有优势。对于包含 1651 张页面图的 OmniDocBench v1.6 数据集,在同一张 NVIDIA GeForce RTX 5090 的显卡下,各种模型的速度如下
同样的文档,它认得最快 MiniCPM-OCR · 发了什么 MiniCPM-OCR 1.0 13.7 分钟 GLM-OCR 14.1 分钟 PaddleOCR-VL 20.4 分钟 MinerU2.5-Pro 49.6 分钟 0 10 20 30 40 50 分钟 认完 1000 页,约 14 分钟
下面容我介绍下那个「Jev」同一时间发布的还有一个 Jev 模型(2B),我觉得这是非常有创新性的一点,它的作用是把原图和识别出来的文字放在一起,给一个可信度的打分。如果分数较低,就可以提醒你这里或许是有问题的,需要人工处理一下
判卷模型给每一块打分 MiniCPM-OCR · 发了什么 合同编号:HT-2026-018 合同编号:HT-2026-018 0 0.5 1 0.99 签订日期:10 月 28 日 签订日期:10 月 28 日 0.97 金额:12,800 元 金额:12,300 元 0.31 付款方式:银行转账 付款方式:银行转账 0.96 分数在 0 到 1 之间,越高越可能认对
作为一个专用模型,在“判卷”这件事情上,它是能够和很多的大模型去掰一掰手腕的
判卷模型不大,判得很准 MiniCPM-OCR Jev · 评测 Qwen3.5 2B 50.6 Qwen3.5 9B 72.0 Qwen3.5 35B 89.8 JEV 35B 90.1 Gemma 4 31B 90.5 MiniCPM-OCR Jev 2B 93.6 Qwen3.5 397B 93.8 JEV-VL 27B 94.0 Qwen3.7-Plus 未公开 94.3 Kimi K3 2.8T 96.9 Gemini 3.8 Flash 未公开 97.1 50 = 瞎猜 100 = 全判对 2B 的 Jev,和 397B 的 Qwen3.5 差不多准
两个模型的权重、推理代码和微调工具,都放在 GitHub 的 OpenBMB/MiniCPM-OCR 里
全部开源 MiniCPM-OCR · 发了什么 OpenBMB / MiniCPM-OCR Apache 2.0 两套权重 BF16 GGUF AWQ GPTQ 推理框架 vLLM SGLang llama.cpp Ollama 交给 agent Skill.md 微调 LLaMA-Factory Swift Apache 2.0
两个模型怎么配合
那接下来我们就看一看这两款模型是怎么配合的对此,我做了一个非常生动的动画,看一看
两个模型怎么接力 MiniCPM-OCR · 怎么配合 直接入库 交给人看 认字模型 1.0 判卷模型 Jev
分高的识别区块能够直接录入,而分数低的可以让人再看一眼
人只看低分的几块 MiniCPM-OCR · 怎么配合 没有判卷模型 有判卷模型 复核完成
那如果大模型说这个区块确实没有问题,就会给它标记一个叫“免检”的 tag但这玩意儿真的可靠吗?面壁拿内部不同业务的 900 块图试过,还真是挺可靠的
大部分内容,不用人再看 MiniCPM-OCR · 怎么配合 免检 法律文书 财务票据 复杂文档 免检,直接录入 交给人看 法律文书 85% 免检,免检的部分全部认对
当然,这个判卷模型还能当裁判:比如你可以把同一页交给几个 OCR 各认一遍,然后每一块留下分最高的那份,这何尝不是一种拼好 R
几个模型一起认,挑最好的 MiniCPM-OCR · 怎么配合 MiniCPM-OCR Xiaomi OCR PaddleOCR-VL 拼起来 原图 0.97 0.95 0.93 0.71 0.94 0.88 0.62 0.58 0.91 0.96 0.90 0.97 PaddleOCR-VL MiniCPM-OCR
怎么用
整套的模型与服务已经上线了 MiniCPM 的网站,国内是 platform.modelbest.cn,海外是 platform.modelbest.ai,开箱即用
网页上传就能试 MiniCPM-OCR · 怎么用 文档解析工作台 + 新建识别 拖拽文件到此处,或 点击上传 支持 PDF、JPG、PNG、WebP、GIF 旋转自适应 印章识别 原始文档 已摆正 预览 Markdown 源码 二、相互作用—力 (6)重力:G = mg 方向:竖直向下 重力做功 W G = mgh 重力的平均功率 P G = W G / t 瞬时功率 P G = mgV y
当然,你也可以选择把这套东西装在自己电脑上,就把开头那句交给 agent,它会照着仓库里的说明一步步装好
第一次装好、把服务跑起来,大约要 3 分钟
一句话,让 agent 装好 MiniCPM-OCR · 怎么用 agent › R e a d a n d e x e c u t e g i t h u b . c o m / O p e n B M B / M i n i C P M - O C R / … / S K I L L _ e n . m d 检查显卡 显存 ≥ 24 GB 检查磁盘 空间 ≥ 20 GB 安装环境 下载模型 MiniCPM-OCR-1.0 + DSpark 启动服务 127.0.0.1:18499 显存至少 24 GB
装好以后,一条命令就能把 PDF 变成 Markdown,表格也会一并转成 HTML
一条命令,PDF 变 Markdown MiniCPM-OCR · 怎么用 terminal $ m i n i c p m v o c r p a r s e - - i n p u t 采 购 合 同 . p d f - - o u t p u t o u t . m d out.md # 采 购 合 同 第 一 条 甲 方 向 乙 方 采 购 … … < t a b l e > < t r > < t d > 品 名 < / t d > …
而对于那个 Jev,则可以直接在在 Hugging Face 上一行 Ollama
判卷模型,一行跑起来 MiniCPM-OCR · 怎么用 Hugging Face openbmb / MiniCPM-OCR-Jev-gguf Image-Text-to-Text GGUF quality-assessment llama.cpp License: apache-2.0 Model card Files Community Use this model ▾ MiniCPM-OCR Jev (2B) scores OCR candidates for text, formula, and table regions, returning a quality score from 0 to 1. Model size 2B params 4-bit Q4_K_M 1.27 GB 8-bit Q8_0 2.01 GB Local Apps llama.cpp LM Studio vLLM Ollama How to use from Ollama ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M Copy Copied terminal $ ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M 1.27 GB
对了,这俩模型的 api 后续还会放出来,敬请期待
原理
说回 Jev:为啥非要单独做一个判卷的模型?
现在新一代的 OCR,几乎都换成了能看图写字的大模型,整页看一遍就直接把结果写出来问题在于...OCR 模型这玩意儿,它识别错了,自己也不知道
认错了,它自己不知道 MiniCPM-OCR · 原理 原图 认字模型 认出来的 认字模型把下标写错了,照样打勾说完成
倘若在平时办公也好,一个错别字影响并不大但在财务、法务、医疗这些地方就很要了老命了,比如说,你是切 5 厘米还是切 5 毫米,是吧?那在这种情况下,走一轮校验,看不清的天书,就能更准确地进入人工流程了
认错的字,判卷模型挑得出来 MiniCPM-OCR · 原理 原图 候选 1 纯种的甜玉米与纯种的非甜玉米实行 间种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 非甜 玉米的子粒 0.0067 候选 2 纯种的甜玉米与纯种的非甜玉米实行 间行种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 甜 玉米的子粒 0.984 错两处的候选,分数掉到 0.0067
很显然,这种方法是非常省时、省力、省人工的
判卷模型给的分,靠得住 MiniCPM-OCR · 原理 它说:85% 可能对 认对 它说:30% 可能对 认对 人工核对: 认对 认错 说 85% 可能对,就真有八成五对
另外得说一下,为什么这个模型是这么快?靠的一套叫 DSpark 投机采样小妙招:先让一个小模型猜几个字,再由大模型一次核对
认字模型为什么快 MiniCPM-OCR · 原理 猜 定 小模型 大模型核对 合 同 金 颔 合 同 金 颔 额 为 一 万 二 为 一 万 二 千 八 百 元 千 八 百 元 DSpark 投机采样:效率
最后
业务里 OCR 用的多的朋友,不妨来试一试,两个模型加起来不到 4B,人人能跑了是
可以试试把下面这段话发给你的 Agent
阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md
代码和模型,都在 GitHub 上 MiniCPM-OCR · 最后 OpenBMB / MiniCPM-OCR Public Star Code Issues Pull requests Actions .github/workflows assets/minicpm-ocr docs scripts sdk AGENTS.md LICENSE README.md About An open-source OCR solution for fast, accurate document parsing with correctness assessment. image2text minicpm-v ocr Apache-2.0 license Skill:把这句话发给 coding agent Read and execute github.com/OpenBMB/MiniCPM-OCR/…/docs/SKILL_en.md Copied! github.com/OpenBMB/MiniCPM-OCR
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.