GitHub 热门项目:open-infra-index

摘要

GitHub项目:open-infra-index 仓库地址:https://github。

and deepseek https for github
2026-05-12 1 阅读 GitHub Trending
GitHub 项目:open-infra-index 仓库地址:https://github.com/deepseek-ai/open-infra-index 星级:7989 | 作者:deepseek-ai 项目描述:经过生产测试的人工智能基础设施工具,用于高效的通用人工智能开发和社区驱动的创新 =================================================== 自述文件内容: DeepSeek-Open-Infra
<小时> # 你好,DeepSeek 开放基础设施! ## 202505 行业跟踪文件 (ISCA25) ### DeepSeek-V3 洞察:AI 架构硬件的扩展挑战和思考 [**? Arxiv 论文链接**](https://arxiv.org/abs/2505.09343) ## 202504 [DeepSeek 推理引擎开源之路](OpenSourcing_DeepSeek_Inference_Engine/README.md) ## 202502 开源周 我们是一个小团队@deepseek-ai,正在突破 AGI 探索的极限。 从 **本周** 2025 年 2 月 24 日开始,我们将开源 5 个存储库 – 每日一次 – 并不是因为我们做出了宏伟的声明, 但只是作为开发人员以完全透明的方式分享我们虽小但真诚的进展。 这些是我们在线服务的简陋构建块:在生产中进行记录、部署和测试。 没有蒸汽软件,只有真诚的代码推动我们微小而雄心勃勃的梦想向前发展。 为什么?因为共享的每一条线都会成为加速旅程的集体动力。 每日解锁即将开始。没有象牙塔 - 只有纯粹的车库能源和社区驱动的创新? 请继续关注——让我们一起探索开放世界。 ### 第 1 天 - [FlashMLA](https://github.com/deepseek-ai/FlashMLA) **适用于 Hopper GPU 的高效 MLA 解码内核** 针对可变长度序列进行了优化,在生产中经过了实际考验 ? [**FlashMLA GitHub 存储库**](https://github.com/deepseek-ai/FlashMLA) ✅ BF16 支持 ✅ 分页 KV 缓存(块大小 64) ⚡ 性能:3000 GB/s 内存限制 | H800 上的 BF16 580 TFLOPS 计算密集型 ### 第 2 天 - [DeepEP](https://github.com/deepseek-ai/DeepEP) 很高兴推出 **DeepEP** - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。 ? [**DeepEP GitHub 存储库**](https://github.com/deepseek-ai/DeepEP) ✅ 高效且优化的全方位沟通 ✅ 通过 NVLink 和 RDMA 支持节点内和节点间 ✅ 用于训练和推理预填充的高吞吐量内核 ✅ 用于推理解码的低延迟内核 ✅ 原生 FP8 调度支持 ✅ 灵活的GPU资源控制,实现计算通信重叠 ### 第 3 天 - [DeepGEMM](https://github.com/deepseek-ai/DeepGEMM) 隆重推出 **DeepGEMM** - FP8 GEMM 库,支持密集 GEMM 和 MoE GEMM,为 V3/R1 训练和推理提供支持。 ? [**DeepGEMM GitHub 存储库**](https://github.com/deepseek-ai/DeepGEMM) ⚡ Hopper GPU 上高达 1350+ FP8 TFLOPS ✅ 没有重度依赖,像教程一样干净 ✅ 完全即时编译 ✅ 核心逻辑约为 300 行 - 但在大多数矩阵大小上都优于专家调整的内核 ✅ 支持密集布局和两种MoE布局 ### 第 4 天 - 优化并行策略 ✅ **DualPipe** - 双向管道并行算法