GitHub 热门项目:MiniCPM

摘要

GitHub项目:MiniCPM 仓库地址:https://github。com/OpenBMB/MiniCPM Stars:8925 | 作者:OpenBMB 项目描述:MiniCPM4 & MiniCPM4。

MiniCPM and https openbmb model
2026-05-22 1 阅读 GitHub Trending
GitHub 项目:MiniCPM 仓库地址:https://github.com/OpenBMB/MiniCPM 星级:8925 | 作者:OpenBMB 项目描述:MiniCPM4 & MiniCPM4.1:终端设备上的超高效LLM,在推理任务上实现3+代加速 =================================================== 自述文件内容:

中文 | 英语

MiniCPM 论文 | MiniCPM Wiki(中文) | MiniCPM-V 存储库 | 加入我们的 discord微信 | 加入我们

> [!注意] > ### ? 2026 稀疏算子加速与竞赛 (SOAR) 现已上线! > > **MiniCPM-SALA 架构只是一个开始。充分发挥其潜力需要深入的系统级协同和跨层编译优化。** > > OpenBMB 与 **SGLang** 和 **NVIDIA** 合作,邀请全球极客在专用 **NVIDIA 6000D** 环境上解决 **9B 规模、1M 代币推理** 的限制。 > > * ? **奖池:** >100,000 美元(最高奖金:**89,000 美元**) > * ? **目标:** 通过跨层编译优化单批和多批性能。 > > ? **【了解更多并注册】(https://soar.openbmb.cn/)** ## 变更日志? - [2026.02.11] **[MiniCPM-SALA](https://huggingface.co/openbmb/MiniCPM-SALA)**发布!这是第一个有效集成稀疏和线性注意力的大规模混合模型,用于百万令牌上下文建模。 ??? - [2025.09.29] **[InfLLM-V2论文](https://arxiv.org/abs/2509.24663)发布!** 我们可以仅用5B长文本标记训练稀疏注意力模型。 ??? - [2025.09.05] **[MiniCPM4.1系列](https://huggingface.co/collections/openbmb/minicpm-4-6841ab29d180257e940baa9b)**发布!该系列是一个可训练稀疏注意力的混合推理模型,既可以用于深度推理模式,也可以用于非推理模式。 ??? - [2025.06.06] 发布[**MiniCPM4**](https://huggingface.co/collections/openbmb/minicpm-4-6841ab29d180257e940baa9b)!该模型实现了最终的效率提升,同时在相同规模下保持最佳性能!在典型端侧芯片上可实现超过5倍的代加速! - [2024.09.05] 我们发布了[**MiniCPM3-4B**](https://huggingface.co/openbmb/MiniCPM3-4B)!该模型的性能优于 Phi-3.5-mini-instruct 和 GPT-3.5-Turbo-0125,并且与具有 7B-9B 参数的几个模型(如 Llama3.1-8B-Instruct、Qwen2-7B-Instruct 和 GLM-4-9B-Chat)相当。 - [2024.07.05] 发布[**MiniCPM-S-1B**](https://huggingface.co/openbmb/MiniCPM-S-1B-sft)!该模型在 FFN 层实现了 87.89% 的平均稀疏度,将 FFN FLOP 减少了 84%,同时保持下游任务性能。 - [2024.04.11