产品简介
文心 Unlimited OCR 2 是百度于 2026 年 10 月 27 日开源的长文档解析模型,代码与权重同步上到 GitHub 与 Hugging Face,并在百度智能云与百度 AI 开放平台上线。它要解决的是页数:上一代靠参考滑动窗口注意力把解析范围推到数十页,这一代在固定上下文窗口内做到了任意页数。
关键机制叫 SR-SWA,稀疏参考滑动窗口注意力。它利用一个事实:页内信息密集,跨页的视觉关联极稀疏。于是先用页级门控把候选从几千页缩到几页,再在候选页里给视觉块打分,只把最相关的部分送进注意力。整个过程压缩到一组固定容量的参考表征,例如 512 个 token,单步解码延迟与显存占用因此不随文档变长而上升。
配套的是无限视界解码。文档按滑动窗口处理,相邻窗口共用一个边界页并复用其 KV 缓存,跨页的句子与表格得以接续;窗口处理完就把 KV 缓存从显存释放。官方数据是峰值单序列 KV 显存下降 96.2%,从 47.00GB 降到 1.77GB,单张消费级显卡即可跑推理。
核心功能
- SR-SWA 稀疏参考注意力:页级门控先筛候选页,token 级筛子在候选页里挑最相关的视觉块,注意力只在这组固定容量的参考表征上算,计算复杂度被限死。
- 无限视界解码:文档按窗口滑动处理,相邻窗口共用边界页并复用 KV 缓存,跨页的段落与表格能接着写;窗口结束即释放缓存,显存不累积。
- 跨页合并:跨页表格会自动识别延续关系并合并成完整一张表输出,被页码截断的段落由模型在语义层面重新接续,做到不丢字、不乱序、不重复。
- 长文档基准领先:在数十页的 MPDocBench 与百页级的 MarathonDocBench 上都取得当前最优。百页规模下 16 路并发吞吐从 360 TPS 提到 1315 TPS,单步解码延迟比全注意力快 7.0 倍。
- 两种推理路径:生产环境用 SGLang,支持分页窗口调度与显存精细调优;本地验证用原生 Transformers,几行代码即可跑通多页推理。
- 防重复与输出控制:内置 N-Gram Logit 处理器抑制长文档常见的复读与循环输出,多页场景使用更大的窗口;单页解析另有动态分块的 Gundam 模式提升精度。
适合谁用
以下类型的用户会特别受益于 文心 Unlimited OCR 2:
- 整本图书或上百页卷宗的一次性解析,不必按页拆开再拼接。
- 跨页表格密集的财报与年报,用跨页合并拿到完整表格而不是碎片。
- 扫描档案的批量数字化,一条请求传入全部页面即可利用跨页上下文。
- 在单张消费级显卡上部署长文档解析服务,显存占用与页数基本无关。
- 需要按页控制显存峰值的线上服务,用窗口页数参数在显存与跨页能力之间调节。
- 学术论文与技术手册的批量转写,公式与版式在训练分布内。
优点亮点
- 在固定上下文窗口内实现任意页数解析,页数不再受上下文硬约束。
- 峰值单序列 KV 显存降 96.2%,从 47.00GB 到 1.77GB。
- 百页规模 16 路并发吞吐提升 3.65 倍,单步延迟比全注意力快 7.0 倍。
- 跨页表格合并与段落接续是原生能力,不靠后处理拼接。
- 代码与权重同步开源,SGLang 与 Transformers 两条路径都给了完整参数。
- 上一代积累的生态可观,Hugging Face 下载过千万,GitHub 星标 2.85 万。
价格与方案
代码与权重开源,GitHub 与 Hugging Face 均可下载,自建只承担硬件成本。官方测试环境为单张 A800-80GB,生产部署走 SGLang 时可用窗口页数与显存占比参数控制成本。同一版本也已上线百度智能云与百度 AI 开放平台,走云服务则按其 OCR 文档解析的计费方式结算,公测期间可申请体验。
总结与建议
长文档解析的瓶颈一直不在识别精度,而在注意力随页数二次增长的算力与显存。Unlimited OCR 2 用稀疏参考把跨页注意力压到固定开销,再用滑动窗口把显存释放掉,两件事合起来才支撑起任意页数的说法。对需要整本卷宗一次解析的业务,这比按页切分再拼接省掉大量工程。上一代已经是开源社区的热门项目,这一代的生态起点更高。
版本演进
- Unlimited OCR 2 开源:SR-SWA 实现任意页数解析 (2026-10-27):百度开源文心 Unlimited OCR 2,代码与权重同步上线 GitHub 与 Hugging Face。核心是 SR-SWA 稀疏参考滑动窗口注意力,把跨页视觉关联压缩到固定容量的参考表征,配合无限视界解码的窗口复用与释放,峰值单序列 KV 显存从 47.00GB 降到 1.77GB,降幅 96.2%。MPDocBench 与 MarathonDocBench 取得 SOTA;百页规模 16 路并发吞吐从 360 TPS 升至 1315 TPS,单步解码延迟比全注意力快 7.0 倍。支持 SGLang 生产部署与 Transformers 本地验证。