刚刚，百度开源拿下全球第一！作者疑似DeepSeek出走大神

新智元报道 【新智元导读】 百度开源Unlimited OCR！3B参数500M激活，一口气读完40页不失忆。作者疑似DeepSeek出走的OCR核心大神。 就在刚刚，百度闷声干了票大的！ 最新开源的Unlimited OCR，总参数3B，实际激活仅500M——放在大模型时代几乎是个零头。 但就是这个小到离谱的模型，在OmniDocBench v1.5上拿下93.23%的综合分，v1.6更是达到93.92%，直接刷新了端到端SOTA。 什么概念？v1.5同台竞技的选手里，235B的Qwen3-VL拿了89.15，72B的Qwen2.5-VL拿了87.02，不公布参数量的Gemini-2.5 Pro也只有88.03。激活参数不到它们零头的选手，反手把它们全甩了。 更离谱的是，它还干了件之前没有OCR模型干成过的事：一口气解析40多页文档，不失忆、不降速，一次推理从第一页读到最后一页。 目前，模型和代码都已同步上线GitHub和HuggingFace。 GitHub： https://github.com/baidu/Unlimited-OCR Hugging Face： https://huggingface.co/baidu/Unlimited-OCR 为什么所有模型都在「逐页失忆」 说到OCR，现在模型笨得让人意外。 它们会把一件原本连贯的长程任务，硬生生切成几十个互不相干的小任务，再靠一个外部调度器把结果勉强缝起来。就像在跑一个for循环，处理完一页就把记忆清空，再从头开始下一页。 能用，但本质上只是工程的权宜之计，离真正的智能还差着一大截。 究其原因在于，随着输出越来越长，标准注意力机制下的KV缓存像滚雪球一样疯涨——内存吃不消，速度越来越慢。 这才是逼着所有模型逐页处理、频频「失忆」的真正元凶。 但人类抄书，从来不是这么干的。 我们会维持一种连续的认知状态——眼睛盯着三个点：原书、刚写下的一小段、即将要写的下一个字。 早些写过的内容慢慢淡出脑海，最近的上下文用来盯住当前进度。 这种能力有个很妙的名字：「软遗忘」（soft forgetting）。 正是靠着这种「该忘就忘」的本事，人才能在极低认知负荷下扛住超长任务。比如，抄一本书、译几百页、连续转录数小时音频。 百度想做的，就是把人类这种「原文全局可见、记忆只保留最近几行」的注意力方式，搬进模型里。让OCR告别失忆。 R-SWA：把「抄书的秘密」写进注意力 顺着这个思路，百度提出了报告里的核心技术——参考滑动窗口注意力（Reference Sliding Window Attention，R-SWA），精确对应前面说的人抄书时的注意力模式。 具体来说，每生成一个token，R-SWA都会去看全部「参考token」，也就是整张图像的视觉token和提示词，保证模型始终「看得见」完整原文。 但在输出这一侧，它只回看前面128个token，就像你抄书时只瞄一眼刚写的那几行。 落到实现上，Unlimited OCR把所有注意力层全换成R-SWA，从而把KV缓存变成一个固定容量的队列。 每生成一个新token，最老的那个就被挤出去，大小始终不变。输出1万个token和10万个token，内存占用是完全一样的。 报告中Flash Attention v3的延迟测试也一目了然。 DeepSeek OCR的标准MHA随着解码步数增加，每步耗时稳步攀升；而Unlimited OCR的R-SWA从头到尾一条平线，纹丝不动。 一次推理，读完几十页 这里还有一个至关重要的配合：DeepEncoder。 这个最初在DeepSeek OCR中登场的编码器，能把一张1024×1024的PDF页面压缩到仅仅256个视觉token，压缩率高达16倍。 而且由于视觉token在R-SWA下不参与状态转移，因此无论文档多长，图像信息永远清清楚楚，不会随解码过程逐渐退化。 配合DeepEncoder的极致压缩和R-SWA的恒定缓存，Unlimited OCR在标准的32K上下文里，一次前向推理就能转录数十页文档。 结果显示，同时输入20页文档，转录与原文逐字比对的编辑距离仅0.057；即便输入40页以上，依然控制在0.11以下，衡量重复输出的Distinct-35高达97%——几十页一口气转录，几乎没有复读。 在OmniDocBench v1.5上，Unlimited OCR拿到93.23%的综合得分，比DeepSeek OCR的87.01%高出6.22个百分点。 文本编辑距离从0.073降到0.038，公式CDM从83.37飙到92.61，表格TEDS从84.97升至90.93。 在更新的v1.6上，同样以93.92%拿下端到端SOTA。 效率方面同样碾压。 输出达到6144个token时，Unlimited OCR的TPS是7847，DeepSeek OCR已经掉到5822，差距高达35%。 别忘了，这是一个500M激活的MoE小模型，在DeepSeek OCR基础上仅继续训练4000步的结果。 投入不算大，但效果拔群——R-SWA对解析任务是一种真正的「免费午餐」。 九大文档类型的细分对比中，PPT、论文、杂志、报纸无一短板，Unlimited OCR在文本和阅读顺序两项上全面超越DeepSeek OCR，且在七个类别中领先DeepSeek OCR 2。 一位神秘的技术总监 跑分说完了。但这份报告真正有意思的地方，是行文方式。 从副标题的语气到技术的叙事，读过DeepSeek那几份技术报告的人，几页下来就会觉得似曾相识。 末尾还断言R-SWA是通用解析机制，而OCR只是第一站。 一篇OCR报告，硬是写出了探索通用智能的味道。 然后，是那个最让人在意的地方——作者名单。 核心贡献者三位：Youyang Yin，Huanhuan Liu*（项目leader），YY†（技术总监）。 两个人用真名，唯独技术总监挂了个两字母缩写。有点意思。 虽然论文没多说，但GitHub致谢栏却把线索递了过来：Deepseek-OCR和Deepseek-OCR-2，排在致谢前两位。 顺着这条线往回找。DeepSeek OCR从一代到二代，核心作者始终三个人：魏浩然、孙耀峰、李宇琨。同一支小队伍，从无到有。 今年4月DeepSeek发V4，魏浩然名字后面多了星号——已离职。 三个人里，只有他已经公开离开。 再看履历。魏浩然，阶跃星辰出身，主导开发了端到端OCR最早跑通的开源标杆GOT-OCR2.0。到DeepSeek后，更是一手搭起整条OCR线，DeepEncoder、MoE解码器，一代到二代都是他的团队。 能力、时间线、署名方式，三条都对得上。 国内OCR圈不大，能做出R-SWA这种级别突破、还对DeepSeek OCR架构有「亲手做过」级别熟悉的人，一只手数得过来。魏浩然是其中最显眼的那一个。 如此一来，YY大概率就是魏浩然了。 百度，依然能打 过去几年，PaddleOCR几乎是国产OCR的代名词。开源、轻量，产业落地最广——从手机端到服务器到嵌入式设备，覆盖了最主流的应用场景。 不过之前百度更侧重产业应用。稳定性、部署成本、场景覆盖是强项，「用前沿研究理念重塑OCR范式」这个方向并非其