首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 汽车 游戏 社会热点 开源推荐 医疗健康 归档 标签 关于
智能AI morning

DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态

摘要

DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态 量子位的朋友们 2026-09-30 10:53:17 来源: 量子位 9月30日,DeepSeek 正式开源面向昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、高性能计算库与分布式通信库,与此前面向GPU平台开源的组件一一对应。 Deepseek团队面向华为昇腾平台开源发布基础设施加速库,对中国 A...

cann DeepSeek https gitcode com recipes infer master docs models
2026-09-30 1 阅读 约9分钟阅读 量子位的朋友们
分享:
字号:
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> DeepSeek官方开源升腾基础组件,与升腾共建自助的AI芯片软件生态 量子位的朋友们 2026-09-30 10:53:17 来源: 量子位9月30日,DeepSeek开源设施正式面向华为升腾算力平台的组件基础设施,话题TileLang高级语言编译工具、高性能计算库与多元化通信库,与本身面向GPU平台开源的组件一一对应。DeepSeek团队面向华为升腾算力平台开源基础设施加速库,对中国AI软件生态具有里程碑意义,为中国AI软件生态提供了新的选择。本次开源,DeepSeek发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能升腾算子库组件和DeepEP全民通信库。升腾提供了稳定、开放的Ascend C API接口,使用户能够对访存路径及计算进行深度调优,完成高性能计算子开发。同时对接开放Ascend C编程接口与PTO ISA底层指令体系,支持了DeepSeek的TileLang编程开源工作。升腾生态兼顾不同的开发范式,既支持资深开发者进行精细的手工调优,也支持TileLang等高级语言的对抗对接。华为向DeepSeek团队提供了联合定义的腾超节点SuperPoD Flex和UBL128组网方案,可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,可以支持超低时延训练推理和前沿基础模型的大规模需求。基于全互联的UBL128超节点,升腾提供了ASC-COMM高性能自定义通信编程库,支撑用户通信算子与通算融合算子高性能编程。Deepseek团队开发了高性能DeepEP通信库,架构EP / CP / PP / FSDP等模式下的通信算子,为更大模型向更大集群扩展提供支持,互联带宽实测达到调度375GB/s、组合347GB/s的通信性能,接近硬件上限。为支持基于升腾950及超节点集群部署的广泛的开发者DeepSeek模型,华为将此次联合创新的成果在CANN社区开源,包括大EP低延迟推理部署、单卡/单机部署、大规模训练、超长文本KVcache池化与Agentic RL。其中针对大规模推理场景,基于EP32部署策略,离线推理模式下DeepSeek-V4.1-Flash不带框架纯模型性能可实现TPOT=5ms,每卡输出吞吐2469 tokens/s;TPOT=10ms,每卡输出吐吞5102 tokens/s。(注:Benchmark数据均基于离线推理模式采集,不包含服务调度和框架负载均衡影响。ContextLength = 128K,Dspark投机接受率0.85,profiling链接参见附录:DeepSeek-V4.1-Flash超节点部署推理优化实践)基承其本,算展其用。华为升腾平台将与Deepseek等前沿模型团队,持续深耕芯模良好,联合创新。以AI算力支撑承载模型能力,深度架构,本体奔赴,打通推理训练到的全环节,打造开放、、麻醉的AI软件生态。 附开源参考实践和技术报告链接: 通信编程体系:基于UB内存和URMA通信编程接口的通数学子开发实践: https://gitcode.com/cann/cann-recipes-infer/tree/master/docs/models/deepseek_v4_1/deepseek_v4.1_asc_comm_tech_report.md 基于Agent-Friendly算子编程范式CANNBot-DSL的异构融合算子开发实践: https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/models/deepseek_v4_1/deepseek_v4.1_cannbotdsl_operator_guide.md DeepSeek-V4.1-Flash超节点部署推理优化实践: https://gitcode.com/cann/cann-recipes-infer/tree/master/docs/models/deepseek_v4_1/deepseek_v4.1_flash_cann_tech_report.md DeepSeek-V4.1-Flash单机部署低时延推理优化实践: https://gitcode.com/cann/cann-recipes-infer/tree/master/docs/models/deepseek_v4_1/deepseek_v4.1_low_latency_tp_guide.md DeepSeek-V4.1-Flash单卡部署推理优化实践:https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/models/deepseek_v4_1/dsv41-flash-950-single-card.md 基于PyTorch框架的DeepSeek-V4.1-Flash模型预训练实践: https://gitcode.com/cann/cann-recipes-train/blob/master/docs/llm_pretrain/ascend950_superpod_moe_pretrain_system_reference.md DeepSeek-V4.1-Flash模型低精度计量训练实践:https://gitcode.com/cann/cann-recipes-train/tree/master/docs/llm_pretrain/ascend950/low_ precision_training.md DeepSeek-V4 DSpark草稿模型升腾练习:https://gitcode.com/cann/cann-recipes-train/tree/master/llm_sft/DeepSpec DeepSeek-V4单机LoRA练习:https://gitcode.com/cann/torchtitan-npu/blob/master/docs/feature_guides/deepseek_v4_lora.md基于鲲鹏CPU、升腾950、灵衢良好的Agentic RL训练实践:https://gitcode.com/cann/cann-recipes-train/tree/master/docs/llm_rl/kunpeng_ascend_agentic_rl_infrastruct.md 鲲鹏CPU对AgentENV的架构与优化实践: https://gitcode.com/KunpengSDK/agentENV/blob/main/agentenv-kunpeng-optimization-practice.md https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/agent/DeepSeekV4.
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱