开源推荐
morning
GitHub 热门项目:open-infra-index
摘要
GitHub项目:open-infra-index 仓库地址:https://github。
and
deepseek
https
for
github
2026-05-12
1 阅读
GitHub Trending
GitHub 项目:open-infra-index
仓库地址:https://github.com/deepseek-ai/open-infra-index
星级:7989 | 作者:deepseek-ai
项目描述:经过生产测试的人工智能基础设施工具,用于高效的通用人工智能开发和社区驱动的创新
===================================================
自述文件内容:
<小时>
# 你好,DeepSeek 开放基础设施!
## 202505 行业跟踪文件 (ISCA25)
### DeepSeek-V3 洞察:AI 架构硬件的扩展挑战和思考
[**? Arxiv 论文链接**](https://arxiv.org/abs/2505.09343)
## 202504 [DeepSeek 推理引擎开源之路](OpenSourcing_DeepSeek_Inference_Engine/README.md)
## 202502 开源周
我们是一个小团队@deepseek-ai,正在突破 AGI 探索的极限。
从 **本周** 2025 年 2 月 24 日开始,我们将开源 5 个存储库 – 每日一次 – 并不是因为我们做出了宏伟的声明,
但只是作为开发人员以完全透明的方式分享我们虽小但真诚的进展。
这些是我们在线服务的简陋构建块:在生产中进行记录、部署和测试。
没有蒸汽软件,只有真诚的代码推动我们微小而雄心勃勃的梦想向前发展。
为什么?因为共享的每一条线都会成为加速旅程的集体动力。
每日解锁即将开始。没有象牙塔 - 只有纯粹的车库能源和社区驱动的创新?
请继续关注——让我们一起探索开放世界。
### 第 1 天 - [FlashMLA](https://github.com/deepseek-ai/FlashMLA)
**适用于 Hopper GPU 的高效 MLA 解码内核**
针对可变长度序列进行了优化,在生产中经过了实际考验
? [**FlashMLA GitHub 存储库**](https://github.com/deepseek-ai/FlashMLA)
✅ BF16 支持
✅ 分页 KV 缓存(块大小 64)
⚡ 性能:3000 GB/s 内存限制 | H800 上的 BF16 580 TFLOPS 计算密集型
### 第 2 天 - [DeepEP](https://github.com/deepseek-ai/DeepEP)
很高兴推出 **DeepEP** - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。
? [**DeepEP GitHub 存储库**](https://github.com/deepseek-ai/DeepEP)
✅ 高效且优化的全方位沟通
✅ 通过 NVLink 和 RDMA 支持节点内和节点间
✅ 用于训练和推理预填充的高吞吐量内核
✅ 用于推理解码的低延迟内核
✅ 原生 FP8 调度支持
✅ 灵活的GPU资源控制,实现计算通信重叠
### 第 3 天 - [DeepGEMM](https://github.com/deepseek-ai/DeepGEMM)
隆重推出 **DeepGEMM** - FP8 GEMM 库,支持密集 GEMM 和 MoE GEMM,为 V3/R1 训练和推理提供支持。
? [**DeepGEMM GitHub 存储库**](https://github.com/deepseek-ai/DeepGEMM)
⚡ Hopper GPU 上高达 1350+ FP8 TFLOPS
✅ 没有重度依赖,像教程一样干净
✅ 完全即时编译
✅ 核心逻辑约为 300 行 - 但在大多数矩阵大小上都优于专家调整的内核
✅ 支持密集布局和两种MoE布局
### 第 4 天 - 优化并行策略
✅ **DualPipe** - 双向管道并行算法